Губернатор Калифорнии Гэвин Ньюсом объявил, что штат примет нормативные меры безопасности для социальных сетей и AI-компаньонов-чатботов в целях защиты детей.
В уведомлении от понедельника офис губернатора сообщил, что Ньюсом подписал ряд законопроектов, которые обязывают платформы добавлять функции подтверждения возраста, протоколы для решения вопросов самоубийства и нанесения себе вреда, а также предупреждения для чатботов-компаньонов. Законопроект об AI, SB 243, был предложен сенаторами штата Стивом Падильей и Джошем Бекером в январе.
Падилья привел примеры общения детей с AI-компаньонами-чатботами, что, предположительно, в некоторых случаях приводило к подстрекательству к самоубийству. Законопроект требует от платформ информировать несовершеннолетних о том, что чатботы генерируются AI и могут быть неподходящими для детей, согласно заявлению Падильи.
«Эта технология может быть мощным образовательным и исследовательским инструментом, но, оставленные на произвол судьбы, представители технологической индустрии стремятся привлечь внимание молодых людей и удерживать его за счет их реальных межличностных отношений», — заявил Падилья в сентябре.
Этот закон, вероятно, повлияет на социальные сети и веб-сайты, предлагающие услуги жителям Калифорнии с использованием инструментов AI, потенциально включая децентрализованные социальные сети и игровые платформы. Помимо гарантий безопасности чатботов, законопроекты направлены на ограничение утверждений об "автономных действиях" технологии, чтобы компании могли избежать ответственности.
Ожидается, что SB 243 вступит в силу в январе 2026 года.
Поступали сообщения о том, что AI-чатботы, предположительно, выдают ответы, поощряющие несовершеннолетних к членовредительству или потенциально создающие риски для психического здоровья пользователей. Губернатор Юты Спенсер Кокс подписал аналогичные законопроекты в 2024 году, которые вступили в силу в мае, требуя от AI-чатботов информировать пользователей о том, что они не разговаривают с человеком.
Федеральные действия по мере расширения AI
В июне сенатор от штата Вайоминг Синтия Ламмис представила Акт об ответственном инновационном и безопасном опыте (RISE), предоставляющий «иммунитет от гражданской ответственности» разработчикам AI, которые могут столкнуться с исками со стороны лидеров отрасли в таких секторах, как «здравоохранение, юриспруденция, финансы и другие сектора, имеющие решающее значение для экономики».
Законопроект вызвал неоднозначную реакцию и был передан в Комитет Палаты представителей по образованию и рабочей силе.
