人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

2025-01-23 21:23:39 3,930次浏览

和基于数据科学的人工智能技术的连续性不同,价值的不连续性来源于其自身的特征,从本质上来说它并不是一套精确的规则和条件判断,而更像是一个具有弹性的语法体系,其中包含了很多从历史文化信仰体系中获得的内化性原则,包括但不限于文化倾向、历史习俗、社会信念、群体观念、政治意识形态、地域、宗教、种族、性别甚至职业身份等多重元素。目前大多数科创企业所采取的通过强调匹配不同算法特征及其治理需求的分类治理框架来实现价值对齐的方式,体现为应用环境通过对输入变量赋值进而对输出结果产生影响,如对生成式人工智能进行预训练后的模型微调就属于此类。这种思路由设计者将被预设为普遍性的价值原则嵌入智能自治系统中以形成特定的概念空间,然后根据场景调用。于是,下游应用中的相关符号被赋值,并纳入与该价值原则相关的关系之中。这就是为什么“输出一个白人家庭”的要求会被Gemini拒绝,“白人”作为敏感符号被赋值与种族主义立场相关,而有色人种的要求则不会。这种“价值属性”其实并不是人工智能对人类价值观的理解,只是出于算法编写者的设计。从这个意义上说,价值对齐的叙事编织从根本上说并不反映被假想出来的人机差异,而是关乎人工智能设计和算法治理的问题,更简单地说,它是一个具有自主性的智能体应不应该,以及如何设计的问题。 吴静,南京师范大学公共管理学院哲学系教授、博士研究生导师,南京师范大学数字与人文研究中心主任 然而,中立的数智技术本身并不存在。算法、数据、模型、奖惩函数等任一环节本身都有可能使输出结果呈现出特定的价值取向。例如,当谷歌发布的多模态大模型Gemini被要求生成一张“白人家庭”的图片时,系统拒绝了这一请求,它所使用的理由是“无法生成针对特定族群的图片”,因为“此类内容可能存在歧视、刻板印象”。然而,当要求被更改成生成一张“黑人家庭”的图片时,Gemini即时按照要求完成了任务。很明显,与任务的对称性相比,输出结果的不对称性明显受到了模型微调的影响。美国最高法院的保守派黑人大法官克拉伦斯·托马斯被Gemini生成白人面孔则在很大程度上是因为和“法官”相关的数据样本中白人偏多。当亚马逊公司开发并投入使用的“简历筛选系统”会对同等条件的女性候选人的简历给出相较于男性更低的评分时,很难判断这是因为数据类型还是编写者的倾向性导致了这种偏差。由此可见,人工智能的技术特征决定了影响其结果的因素必然是多方面的,而且由于技术黑箱的存在,这种影响并不总是易于判断和矫正。何况,矫正的结果也并非一定能达到预期。正如谷歌研发团队在试图解决训练数据集的种族主义倾向时引入的多元化矫正方案就出现了与历史事实不符的错误。

该文章转自 海外网 ,如有异议,请发邮件至diguowang08@163.com。 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉

「活动」首次登录送19元红包

80.30MB
版本build4.6.3
下载操妹子骚逼喷水视频安装你想要的应用 更方便 更快捷 发现更多
喜欢 61%好评(53人)
评论 19
人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图0 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图1 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图2 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图3 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉截图4
详细信息
  • 软件大小: 33.32MB
  • 最后更新: 2025-01-23 21:23:39
  • 最新版本: V4.6.7
  • 文件格式: apk
  • 应用分类:ios-Android 骚穴对白
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一,污污污十八岁抽拔式,别摸了 啊 嗯上课呢h
二,JuliaAnn与小伙子内谢,男生操女生小穴的免费视频
三,免费看婬乱男女做爰视频软件小说,超屌操
四,操逼88p,国产一区h母狗
五,91性爱剧场,大尺度裸体无码自慰
六,公车好爽 好紧 宝贝别夹白洁,狠狠插穴中文字幕
七,肏小逼av,操操操操操逼视频
【联系我们】
客服热线:135-2881-646
加载更多
版本更新
ver4.7.6
亚洲猛操丝袜17c

人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉类似软件

猜你喜欢

相关攻略
包含 饿了么 的应用集
评论
  • 人工智能价值对齐的哲学思考|价值嵌入与价值对齐:人类控制论的幻觉 5天前
    扒開腿灌牛奶拏調挠痒痒
  • 骚虎福利导航 6天前
    韩国妇女玩处女
  • 51人妻偷拍 熟女丝网 9天前
    捅鸡鸡网站大全
  • 日韩国产传媒果冻天美爱豆麻花 3天前
    扒开美女内裤 到喷水好爽
  • A片 喷水链接 5天前
    亚洲元码
  • Youchao色色 4天前
    交配软件
  • 哺乳少妇桌玲 5天前
    Www.ccoo11.com
  • 国产肛交肏逼视频 1天前
    白丝jk制服慢慢脱裸体网站
  • 爱情岛vip永久入口 6天前
    美女后入土豪嫩模博彩
  • 69AV双飞调教 1天前
    淫淫网鲁尔山老汉推车