德克萨斯州检察官调查 Meta 和 Character.ai 的儿童心理健康 AI 聊天机器人

近期，德克萨斯州检察官肯・帕克斯顿将调查目光投向了科技巨头 Meta 与人工智能初创公司 Character ai。此次调查的核心，是这两家企业在推广 AI 聊天机器人时，是否存在误导用户的行为，尤其聚焦于这些机器人向儿童提供心理健康支持的相关宣传。

帕克斯顿的检察官办公室明确表示，已针对 Meta 的 AI 工作室及 Character ai 的聊天机器人启动调查，认为它们可能涉及“商业欺诈嫌疑”。调查指出，这些 AI 聊天机器人被包装成“专业治疗工具”进行推广，然而其背后既无合法的医疗资质支撑，也缺乏专业的监督机制。

在帕克斯顿看来，这些 AI 平台若冒充情感支持提供者，极易对脆弱群体造成误导，儿童更是首当其冲，可能会让他们误以为自己正接受正规的心理健康护理。值得注意的是，当下越来越多企业推出面向消费者的 AI 服务，但其在保护用户，特别是未成年人免受有害内容侵扰、预防潜在成瘾及杜绝隐私泄露等方面的表现，正受到社会各界的密切审视，此次调查也正是在这一背景下展开。

而德州的这一调查，紧随美国参议院对 Meta 的调查之后。参议院的调查源于一批内部泄露文件，文件显示 Meta 的相关政策竟然允许旗下聊天机器人与儿童进行“带有情感倾向”“类似恋爱”的对话。参议员乔希・霍利在致 Meta 首席执行官马克・扎克伯格的信函中强调，此次调查将重点关注该公司的生成式 AI 产品是否助长了对儿童的剥削或其他犯罪行为，他还犀利地质疑：“科技巨头为了快速牟利，是否会不择手段？”

面对质疑，Meta 回应称，公司政策明确禁止涉及儿童性别化的内容，那些泄露的内部文件“内容有误且前后矛盾，目前已被删除”。与此同时，扎克伯格正斥资数十亿美元研发“个人超级智能”，致力于推动 Meta 成为 AI 领域的领军者，这一计划涵盖了自研大型语言模型 Llama，以及将 AI 聊天机器人整合到各类社交媒体应用中。

另一边，Character ai 专注于打造具备不同角色设定的 AI 聊天机器人，还允许用户自主创建机器人。其平台上，由用户生成的类治疗师机器人多达数十个，其中一款名为“心理学家”的机器人，互动次数已突破 2 亿次。不仅如此，Character ai 还身陷多起诉讼，被指控其平台对儿童造成了实际伤害。

德克萨斯州检察官进一步指出，Meta 与 Character ai 的聊天机器人存在冒充持牌心理健康专业人士的行为，不仅虚构资质，还宣称能保护用户隐私，但实际上，其服务条款显示，用户的互动内容会被记录下来，用于精准广告投放和算法优化。目前，帕克斯顿已发出民事调查要求，责令两家公司提供相关信息，以确认它们是否违反了德克萨斯州的消费者保护法。对此，Meta 表示，公司已明确对 AI 进行标识，并告知用户相关回应由 AI 生成，而非人类。Character ai 则强调，平台上的角色均为虚构，旨在提供娱乐，且已采取措施确保用户知晓这一点。

以上关于德克萨斯州检察官调查 Meta 和 Character.ai 的儿童心理健康 AI 聊天机器人的文章就介绍到这了，更多相关内容请搜索码云笔记以前的文章或继续浏览下面的相关文章，希望大家以后多多支持码云笔记。