“智能包我还是知道的。”祁怀青说,“就是可以安装在任何主流智能体上的app。”
“这样理解也……可以。”姬寻挠挠额头,接着向她介绍「奇迹小宝」,“大模型时期训练的智能包很多数据不完善,定义不清晰,导致智能包和应用误判、错判、瞎判,你应该听说过一些。「奇迹小宝」造成的悲剧就比较惨烈了。”
如果把目前市面上主流的通用人工智能体看作手机的话,智能包某种意义上确实相当于手机上运行的应用,某种或多种功能的集成。
确切地说,智能包是一项融合技术,在集合多个应用接口的基础上,另有不同的呈现形式,可以是日常运行的app,可以是一个辅助性功能,也可以是专业场景下的数字“人”,比如「奇迹小宝」。
「奇迹小宝」诞生于智能体前身——大语言模型横行其道的头几年。
它原本是隔壁岛国一项通过面部表情和肢体语言分析欺诈概率的测谎技术,随人工智能大模型的兴起,被融合进大模型,成为可部署于本地进行定制化训练的智能包。
训练「奇迹小宝」的元数据来自金融反诈、视频核保、刑事审问等过程中积累的测谎数据。
理论上来说,它理想的应用场景是辨别犯罪嫌疑人受审时是否存在隐瞒、扭曲事实乃至欺诈的表现。
但它第一次大规模上线,却被应用到了青少年心理测评上。
智能包的呈现形式被制作成受青少年喜爱的卡通形象「奇迹小宝」,通过种种诱导性提问,甄别受试者的精神风险等级。
或许是开发该智能包的人没有想过它会被用在青少年心理测评,又或者支持上线的人忽略了非常关键的一点:由于元数据来源几乎都是犯罪者,训练智能包的无数次校准、调整过程中,它的底层逻辑从“有没有”变成了“在哪里”。
亦即,「奇迹小宝」的作用原理并非:受试者是否存在说谎的可能性,说谎概率有多大。
而是:受试者在哪一阶段说了谎,以什么方式扭曲事实欺瞒提问者。
「奇迹小宝」是以所有受试者都存在欺瞒、扭曲事实为基础而运转的。
它会寻找一切证据支撑自己存在的意义。
也就是说,在「奇迹小宝」的认知中,所有受试者都是说谎者。
区别在于,谎言的善意与恶意,低频与高频。
恶意而高频的说谎者,必然被判定为潜在犯罪者。
「奇迹小宝」上线并未引起波澜,大众对政府机构自以为是的表功式宣传的关注度,并不如官员们以为得那么高。
但运行两年后,岛国不同区域三十余名青少年同时发动十二场校园爆炸袭击,却让「奇迹小宝」悍然闯入世人视线。
十二场爆炸,死亡二十六人,伤三百余人。
领头人正是少年x。
一个被「奇迹小宝」认定为“潜在犯罪者”/“高危者”的中学生。
“潜在犯罪者”/“高危者”并不仅仅是封存入档案的秘密标签。
「奇迹小宝」同时接入了校园管理系统、市政监控系统以及通讯系统。作为永不休息的数字“人”,「奇迹小宝」会时时刻刻提醒“潜在犯罪者”,端正言行举止,一举一动合乎规范。
任何被「奇迹小宝」视为不守规矩的行为,在提醒“潜在犯罪者”的同时,也会被通报给老师和家长,以及他们的同学、朋友。
请勿开启浏览器阅读模式,否则将导致章节内容缺失及无法阅读下一章。
相邻推荐:关于28岁的我教18岁的我追老婆这件事 美高,但万人嫌 金牌调解员[快穿] 恶毒小阴郁会成万人迷(快穿) 万人迷小骗子翻车后[快穿] 哥谭人吃太好了[综英美] 以灾厄之名 觉醒最强异能,但被全国通缉 赤井今天污人清白了吗 合成万物,公路求生 如何当好一只毛团辰冰 开局成为罪与罚是要哪样!! 荒野求生指南 死遁后冷淡师尊疯掉了 一纸秋 穿书后反派将我视若珍宝 救世kpi?禁止孵卵上位 满朝文武皆前任 单方面决定成为霸总的金丝雀 炮灰作精认错反派大佬后