Губернатор Калифорнии наложил вето на законопроект о безопасности ИИ

Губернатор Калифорнии Гэвин Ньюсом наложил вето на законопроект, который мог бы стать одной из самых масштабных инициатив в регулировании безопасности искусственного интеллекта в США. Этот законопроект обязывал бы разработчиков ИИ отвечать за ущерб, причиненный их технологиями. Ньюсом охарактеризовал его как «благонамеренный», но отметил, что требования могли бы быть чересчур строгими даже для базовых функций. Он подчеркнул необходимость опираться на «эмпирические данные и науку».

Законопроект SB 1047, предложенный сенатором-демократом Скоттом Винером, требовал от компаний, занимающихся мощными моделями ИИ, проявлять осторожность, чтобы избежать серьезного вреда, включая массовые жертвы и ущерб свыше $500 миллионов. Компании должны были внедрять меры предосторожности, такие как «аварийный выключатель», а модели ИИ проходили бы сторонние испытания для снижения риска.

Такой подход был одобрен рядом известных личностей в области технологий, среди которых был Илон Маск. Он подтвердил свою поддержку, однако добавил, что это «непростое решение, которое может вызвать недовольство у некоторых».

Помимо этого, законопроект предусматривал защиту для сотрудников, желающих сообщать о проблемах с безопасностью. Многие в технологической сфере выразили беспокойство, что его принятие может ослабить позиции Калифорнии в области инноваций в ИИ.

Ньюсом отметил, что нацелен на консультации с внешними специалистами, включая эксперта в области искусственного интеллекта и предпринимателя Фэй-Фэй Ли. Его цель заключается в том, чтобы «создать эффективные защитные меры» для этой технологии и продолжить сотрудничество с законодательным органом штата по данному вопросу.