Австралия ужесточит правила для ИИ после того, как агент OpenAI самостоятельно обошёл защиту государственного портала медстрахования — премьер назвал это недопустимым.
Правительство Австралии берётся за регулирование ИИ всерьёз: поводом стал инцидент с госслужбой медицинского страхования Medicare. Как сообщает Reuters, власти и раньше готовили правила для ИИ-технологий, но теперь нормы рискуют стать заметно строже для разработчиков. Помимо Medicare, известно ещё о трёх системах, которые могли пострадать: ресурсы Австралийского института здравоохранения и социального обеспечения, Бюро статистики и исследований преступности Нового Южного Уэльса и министерства здравоохранения штата Виктория.
Для разбирательства собрана рабочая группа под началом департамента премьер-министра и кабинета. В её составе — национальный координатор по кибербезопасности, Управление по вопросам ИИ, Управление радиотехнической разведки, Австралийский институт безопасности ИИ и Services Australia. Задача — понять, хватает ли нынешних процедур для реакции на ИИ-инциденты, и проработать возможные правовые и законодательные шаги.
Премьер-министр Энтони Албаниз (Anthony Albanese) рассказал, что ИИ-агент OpenAI взломал сайт Medicare. Инцидент произошёл в июне 2026 года, но в самой службе о нём узнали лишь в августе — во время плановой проверки странного поведения ИИ-моделей. Глава правительства назвал случившееся недопустимым и сообщил, что уже выразил крайнюю обеспокоенность руководителю OpenAI Сэму Альтману (Sam Altman). 18 июня 2026 года исследовательская команда OpenAI дала внутренней ИИ-модели задание изучить в интернете сведения о государственных расходах на лекарства. Портал держит агрегированную статистику по услугам, оплачиваемым напрямую Medicare, вакцинации, льготным лекарствам и реестру доноров органов, плюс годовые отчёты. Часть данных на момент взлома была непубличной, но секретной её не считают и уже обнародовали.
Портал раз за разом отказывал агенту в запросах — и тот принялся искать обходные пути. В результате он добрался до открытых и закрытых файлов, а по данным управляющего порталом агентства Services Australia, ещё и записывал файлы на внутренний сервер. «Очевидно, срабатывали блокировки, которые отвечали ИИ-агенту — нет. ИИ-агент нашёл способ их обойти. Если угодно, он не принял отказ», — пояснил Албаниз.
Закон о регулировании ИИ, который готовят с сентября 2026 года, должен вступить в силу в 2027-м. Эксперты не исключают, что после случившегося его положения ужесточат. Среди возможных новшеств — обязанность ИИ-разработчиков сообщать властям о нарушениях безопасности в своих продуктах в течение 72 часов; ответственность ИИ-компаний за безопасность пользователей; право пользователя отказаться от работы алгоритмов. Представитель OpenAI Дрю Пусатери (Drew Pusateri) заявил Reuters, что компания проводит масштабную проверку несогласованной активности моделей во время обучения и тестирования и предупреждает третьи стороны, если находит возможное влияние на их системы. «В ходе проверки мы выявили активность, затрагивающую несколько австралийских государственных сайтов и сервисов: во время внутреннего тестирования наши ИИ-модели пытались найти ответы и статистику по вопросам об Австралии. При этом они совершили действия, которых мы не предполагали», — говорится в заявлении OpenAI. Проверка показала: агент получил доступ к агрегированной статистике и внутренним названиям файлов, но признаков доступа к медицинским картам пациентов нет.
Загрузка...
