Билл Гейтс в интервью NBC News заявил, что полагаться на добросовестность разработчиков ИИ больше нельзя — нужны внешние законы и контроль.
По мнению основателя Microsoft, идея саморегулирования индустрии себя исчерпала. Конгрессу, считает он, стоит принять профильные законы об искусственном интеллекте, а правоохранители и политики должны включиться в дискуссию о том, какими будут гарантии безопасности. Гейтс признаёт: дополнительные правила принесут отрасли немного бюрократии, но серьёзным тормозом для разработок он это не считает.
Почему вопрос стал настолько острым именно сейчас? Гейтс уверен, что ИИ уже обладает достаточной мощью, чтобы в руках злоумышленников натворить бед в масштабах, которые раньше описывали только в фантастике. По его словам, технологии способны спровоцировать события с миллиардом жертв, и ещё никогда оружие не было настолько разрушительным, как связка людей с плохими намерениями и современных ИИ-инструментов. При этом он не ратует за полную остановку — его позиция в другом: нужны обязательные правила, проверки и наблюдение, прежде всего в медицине, финансах, государственных системах и других критических инфраструктурах.
Противоположных взглядов тоже хватает. Главы Anthropic и OpenAI недавно сами признали, что темпы разработки ИИ стоит сбавить. Экс-сотрудник Anthropic Джейкоб Коксон публично обвинил компании в безответственности, сравнив их курс к самообучающемуся суперинтеллекту с игрой в рулетку на человеческие жизни. Спикер Палаты представителей Майк Джонсон не спешит с законодательством и предлагает дождаться конкретного плана от самих компаний. Марк Цукерберг придерживается иной логики: отраслевая координация, по его мнению, не нужна, и каждая лаборатория вправе сама решать, когда притормозить.
Пока федеральные власти раздумывают, отдельные штаты действуют: Калифорния, Мэриленд и Нью-Йорк уже запускают собственные инициативы по регулированию ИИ и формируют экспертные советы. Слова Гейтса в этой связи звучат не как призыв задушить инновации, а как просьба перестать делать вид, что всё под контролем. Тем, кто строит долгосрочные digital-проекты, стоит думать не только о возможностях ИИ, но и о том, что будет при нештатном сценарии — и как прописать это в своих процессах заранее.
Минимальный набор для команды, работающей с ИИ, выглядит так: реестр используемых инструментов и сервисов, проверка промптов и сценариев обработки данных, ограничение доступа к моделям и внутренним базам, тестирование ответов на ошибки, предвзятость и утечки, логирование действий пользователей и систем, а также план на случай инцидента или ошибочной рекомендации. Особенно это касается сервисов, которые общаются с клиентами, принимают решения или работают с чувствительной информацией. В конечном счёте крайним при ошибке окажется именно бизнес или разработчик, а не власти, не принявшие закон, и не создатели ИИ-инструментов.
Загрузка...
