您的位置 首页 行业

细数AI玩偶几宗罪!别让新型AI玩偶毁了你的孩子

相信很多人都看过皮克斯动画工作室出品的《玩具总动员》,里面有会说话的提线木偶胡迪、太空人玩…

相信很多人都看过皮克斯动画工作室出品的《玩具总动员》,里面有会说话的提线木偶胡迪、太空人玩具巴斯光年、瓷娃娃牧羊女……这部电影之所以备受观众喜爱,是因为人们都愿意相信玩具是有意识、有情感的生命体。

细数AI玩偶几宗罪!别让新型AI玩偶毁了你的孩子

(Moxie AI 图源:官网)

在AI大模型光速发展的当下,理想照进现实,会“说话”的玩偶层出不穷:

今年初,全球消费电子风向标CES 2024展出了一款备受“吸睛”的AI产品,由亚马逊投资美国创企Embodied生产制造的教育机器人Moxie AI。主要面向5-10岁儿童,它可以与儿童进行眼神交流及语音对话,通过游戏的对话方式提供社交技能培训。

最近,马斯克前女友、加拿大音乐家Grimes投资了硅谷初创公司Curio,利用OpenAI的模型开发了一款AI毛绒玩具,并接入了OpenAI的语言模型。

细数AI玩偶几宗罪!别让新型AI玩偶毁了你的孩子

(左Grew,中Grok,右Gabbo  图源:Curio官网)

国内4月中旬,科大讯飞也推出利用星火大模型开发的布娃娃“AI Kids”,其具备人机对话、心理检测和早教陪伴等功能。

6月25日,深圳跃然创新科技有限公司推出首个AIGC技术的对话交互式挂件玩具BubblePal。

随着AI技术的发展,为不断优化儿童互动体验,传统玩具市场将迎来陪伴式AI玩偶冲击。与此同时,这种新兴技术的发展将会带来一系列问题和挑战。

一定程度上,AI在家庭教育方面为人们提供了便利。

AI玩偶能够提高孩子思维语言表达和理解能力,通过多角色多语言和儿童进行交互式沟通,快速获取各种信息和知识,不断拓宽孩子们的视野、丰富词汇量。

其次,AI玩偶能够缓解儿童孤独,提供高质量的陪伴和互动,在我国农村离乡打工和城市双职工家庭的孩子人口基数大的情况下,儿童心理格外需要家长的关注。玩偶具备的知识丰富、情绪稳定、24小时在线等优势,极大释放了家庭的育儿压力。

最重要的一点是,陪伴式AI玩偶在儿童情绪成长、规避风险方面有所创新。比如,家长通过软件看到孩子与Moxie的聊天记录,同时设置相关指令计划,比如预约牙医,情绪开导等命令。国内BubblePal同样具备相似功能,用户家长能够通过App查看孩子与AI毛绒玩具的聊天记录。一旦孩子聊到一些危险话题(比如遭遇霸凌)时,App会直接向家长推送预警信息。

细数AI玩偶几宗罪!别让新型AI玩偶毁了你的孩子

(BubblePal 图源:官网)

陪伴式AI玩偶给家庭带来便捷的同时,也带来了一些问题与思考,应审慎警惕看待。

声光电玩偶破坏专注力

有相关实验证明,0~3岁的孩子在使用“声光电”高科技产品的时候,常常会选择沉默不语,直勾勾盯着看,更有专家劝诫,儿童需要少接触声光电产品,因为孩子的视力听力正处于发育阶段,强光强电会刺激孩子大脑,如果孩子过度使用高科技产品可能会影响视听能力。而且玩具功能越多越分散孩子的大脑注意力,从而减少孩子的动脑与动手能力。

社交技能退化

陪伴式AI玩偶隐藏着对儿童人际交往能力发展的潜在威胁。孩子如果在童年时期过度依赖 AI 交流,可能会导致他减少与真实人类互动的机会,造成社交技能退化,无法顺利理解他人情感、进行非语言沟通。而且人类的情感是复杂且微妙的,AI虽然能够模拟情感反应,但它们缺乏真正的情感体验和同理心。如果儿童习惯向玩偶倾吐心声与处理问题,可能会逐渐失去与他人建立深层次联系的能力。

易造成错误认知

大数据模型发展存在不可预见性且发展不成熟。人们常常把大语言模型提供的看似合理但错漏百出的答案称作“AI 幻觉”。AI幻觉易造成人的认知偏差,如果在成长时期接触不完全准确或片面的信息,可能导致儿童形成错误的认知,思维混乱,其后果不堪设想。例如马斯克的 Grok曾“误认为”自己是 OpenAI 的产品。

隐私与伦理问题

除此之外,陪伴式AI玩偶极易引发隐私和伦理问题。有专家指出,智能玩具会收集儿童的语音、行为习惯等个人信息,如果没有适当的数据保护措施,这些信息可能会被滥用或泄露!

在2015年,美泰公司曾推出一款工智能玩偶”你好芭比”(Hello Barbie),芭比能够记录孩子们的对话,然后通过WIFI网络将说话内容传送回软件公司ToyTalk。一个名为“无商业化童年运动”的组织曾指责美泰公司借此窃听儿童隐私,希望能够停止“会说话的玩具”一类项目的研发。不过,美泰公司表示只有在儿童的父母签署许可协议后,该公司才会进行记录声音等操作。世界隐私论坛的执行官帕姆·迪克逊在相关采访中表示:“即便这些记录仅被ToyTalk使用,美泰这款玩具记录的数据,仍涉及多个重要的隐私问题。其中一大隐患就是,儿童可能将一些秘密告诉芭比娃娃,在一些离婚和监护权的案件中,预计律师将会寻求这些记录。”

与此类似的事件是,曾在2017年2月17日,一款畅销欧美的智能玩具洋娃娃My friend Cayla(我的朋友凯拉)在德国引发隐私危机热议,遭到全面封禁。

德国政府表示凯拉娃娃内部安装的蓝牙装置、摄像头及麦克风等设备的隐私安全性较低。黑客可以通过蓝牙入侵该玩偶,向儿童发送语音信息,这其中涉嫌采集个人隐私数据,严重侵犯弱势群体的权利。最终德国政府勒令德国经销商停止售卖该玩具,违者面临罚款处理,并建议所有家长禁止购买或使用这款玩偶。目前Cayla娃娃已经在德国被全面禁售。

关于爱的思考

当陪伴式AI玩偶开始“渗透”家庭教育,身为孩子的父母有一点值得引起关注,那就是父母的爱是否会被人工智能替代。美国著名的心理学家哈利·哈洛曾以爱的名义,对恒河猴进行一系列实验,或许能够带来一些启示。

细数AI玩偶几宗罪!别让新型AI玩偶毁了你的孩子

(恒河猴实验与哈利·哈洛  图源:网络)

恒河猴的基因和人类非常相似,它们对外界刺激的反应,最贴近人类。

其中:代母实验的结论是爱源于接触,并非食物,温暖的接触是母亲的基本。也就是说,亲近的接触是孩子的心灵健康成长的关键。

摇摆试验的结论是:爱存在的三个变量是触摸、运动、玩耍

长期缺母实验的结论是:孩子出生后6个月,是建立依恋关系的关键时期

结尾

英国精神分析学家 Donald Winnicott的观点认为,学龄前的孩子常常与毛绒玩具说话,是因为他们对非生命体具有生命幻想,通过对话来安抚自己受伤的心灵。

因此,当观察到孩子与玩偶窃窃私语的时候,他们的心理成长应当引起家长的关注。人与人的情感连接和互动难能可贵,AI玩偶无法展现人性的温情。父母应陪伴孩子的成长,合理利用AI产品,承担起家庭教育的责任,回归育人本位。

查考资料:

https://aiqicha.baidu.com/qifuknowledge/detail?id=10000738743https://tech.huanqiu.com/article/9CaKrnJRUxQhttps://baike.baidu.com/reference/17644259/533aYdO6cr3_z3kATKfana75YS3DMtmlveLaAbRzzqIP0XOpX4vrUZ184tY2-uIpFwTG_45rZcFaxuv7X0pN7KIXd-pjR-Rxyyf-ADSRnbiy4YF1x41L4d9OHvRCwA

 

作者:小 贾

编辑:小 贾

本文来自网络,不代表观耘网立场,转载请注明出处:https://www.guanyunwang.com/758.html

作者: 贾不假

发表回复

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部