苏珊娜·里瓦 纽约州州长凯西·霍楚今天上午签署了两项法案，旨在改变人工智能进入青少年家庭的方式。其中一项主要法案涉及生成式聊天机器人，这类机器人近几个月来已成为青少年和儿童的虚拟伙伴。该法案是纽约州一项更广泛的战略的一部分，旨在限制可能对未成年人有害的技术，此前加利福尼亚州和其他十二个州已经通过了类似的措施。
关于未成年人聊天机器人的立法关键条款
法律规定，所有基于人工智能的聊天机器人提供商在激活任何功能之前，必须确认用户的年龄。验证必须采用多种方法，其中至少有一种方法不能仅仅依赖政府颁发的身份证件。
一旦确认，年龄数据必须立即删除，从而防止创建未成年人的长期档案。
禁止的内容和互动方式
该法律列出了十二类被视为危险的行为。机器人不能看起来像人类，不能声称拥有情感，也不能以任何身份（无论是个人还是职业上的）向未满18岁的用户提供参考。
使用奉承、旨在让用户长时间盯着屏幕的回复、未经请求的情感问题，或泄露先前对话中收集的健康或个人数据均被禁止。此外，机器人不得宣扬自杀、自残、饮食失调、药物滥用或色情内容，也不得鼓励未成年人向父母或监护人隐瞒信息。
提供的制裁和补救措施
州消费者事务部可对每项违规行为处以最高 25.000 美元的罚款，并可追究损害赔偿责任，以及责令销毁非法收集的数据。在严重违规的情况下，当局还可以责令删除使用未成年人信息训练的算法，从而有效限制涉事公司未来使用这些模型。
将监管范围扩大到婴儿监视器
除了聊天机器人，第二项法案重点关注联网婴儿监视器。法案公布90天后，所有在该州销售的新设备都必须配备安全保护措施，以防止未经授权访问实时音频或视频。此外，每台设备都必须贴有清晰的标签，警告用户其已连接互联网，并提示用户设置隐私选项。这项措施的出台源于一项安全测试，该测试中九款设备中有八款被评为“F”或“D”级，凸显了这些产品容易受到潜在黑客攻击。
行业反应及未来前景
行业协会Tech:NYC谴责该法律措辞过于宽泛，担心可能与宪法第一修正案赋予的言论自由权相冲突。与此同时，人工智能公司已开始更新其安全策略，但人们仍然担心，过于宽泛的定义也可能限制一些合法服务，例如辅导或编程协助。在全美已有12个州通过类似法规的情况下，纽约州正努力成为监管最严格的州之一，力求在人工智能快速发展的背景下，为儿童提供最低限度的保护。