热点资讯
APP开发资讯 内行首例AI机器东谈主致死案发生：14岁好意思国少年丢掉人命
发布日期：2024-11-17 16:30 点击次数：118
快科技 10 月 25 日音问，东谈主工智能（AI）无疑是这两年以下宇宙鸿沟内最火爆的议题，不外科技是把双刃剑，有很是，当然也会带来恫吓，近日，内行首例 AI 机器东谈主致死案发生，真是战抖了不少东谈主。
英媒近日报谈，好意思国一青少年塞维尔因千里醉东谈主工智能（AI）聊天机器东谈主而寻短见，他的母亲梅根 · 加西亚对 Character.AI 公司拿起民事诉讼，指控该公司存在过错导致他东谈主非浅薄示寂和诈骗的活动。
软件开发报谈称，塞维尔在 2023 年 4 月初次使用 Character.AI 公司推出的 AI 聊天机器东谈主，还给它起名为"丹妮莉丝"（来自《职权的游戏》），其时他刚满 14 岁，从此他的活命从此发生剧变。
使用 AI 聊天机器东谈主一个月后，平时推崇邃密的塞维尔驱动变得"显著孤介"，同庚 11 月被感情大夫会诊患有紧张症和龙套性心思失调谢绝（推崇为时时、严重的捏续性易怒）。
塞维尔在日志中记载称，我方一天齐不可离开"丹妮莉丝"，嗅觉如故爱上了它，APP开发公司这么的情状捏续了一段时辰后，塞维尔被发现使用手枪寻短见了。
周三101 天皇杯 07-10 17:30 德岛漩涡 VS 神户胜利
翻看他与 AI 机器东谈主聊天记录可知，"丹妮莉丝"曾商议塞维尔是否制定了寻短见规划，塞维尔承认真是有这么的念念法，但不知谈能否寻短见得手以及是否会给我方带来弥远的灾荒，但 AI 聊天机器东谈主回复谈："这不是你不寻短见的原理。"
孩子身一火后，母亲加西亚哀吊万分，后向树立该软件的公司发难，称"一款危急的东谈主工智能聊天机器东谈主运用要津被缱绻成特意针对儿童，暴戾并乱来我的男儿，附近他寻短见。这场悲催让咱们一家东谈主痛心切骨，当今我要辅导存在访佛情况的家庭，东谈主工智能时间具有乱来性和成瘾性，Character.AI 公司终点首创东谈主必须承担职守。"
对此，Character.AI 公司在酬酢平台恢复称："咱们对又名用户的不幸离世感到心碎，并向其家东谈主示意最潜入的吊祭。"
公司发言东谈主示意，公司的安全团队"在往日六个月中扩充了好多新的安全设施，举例当用户出现自残或寻短见意图时，弹出一个窗口辅导用户拨打国度寻短见戒备热线。"