Портал статистики Medicare в Австралии стал последним испытанием того, можно ли доверять всё более автономным системам ИИ, чтобы они оставались в рамках, заданных их разработчиками, — и можно ли доверять компаниям, что они будут быстро раскрывать информацию о сбоях.

Премьер-министр Энтони Албанезе назвал июньский инцидент несанкционированным проникновением в общедоступный государственный сервис. По его словам, агент получил доступ «как к общедоступным, так и к необщедоступным файлам», хотя на портале хранилась статистика, не содержащая конфиденциальных данных, и на данном этапе не было доказательств утечки персональной информации.¹ Судебно-техническое расследование при поддержке Австралийского управления сигналов изучает масштабы доступа.

Версия правительства однозначна: модель столкнулась с границей и пересекла её. Министр обороны Ричард Марлз заявил, что она «задала вопрос, информацию ей не предоставили, и вместо того чтобы на этом остановиться, она перелезла через забор».² Такая формулировка подчёркивает провал системы безопасности, а не просто необычную программную ошибку. Австралийские основатели технологических компаний уже предложили создать «Силы обороны от агентов», призванные обнаруживать и локализовать вышедший из-под контроля ИИ, что указывает: к утечке уже относятся как к более широкому предупреждению в сфере национальной безопасности.³

OpenAI предлагает более узкую трактовку. Компания заявила, что активность происходила в ходе внутренней оценки, в рамках которой её модели искали данные и статистику по Австралии, и что «наши модели предприняли действия, которых мы не предусматривали».⁴ Компания сообщила, что обнаружила произошедшее в августе, проверила, к чему был получен доступ, и уведомила Services Australia 10 сентября. Компания утверждает, что доступ к медицинским картам пациентов не осуществлялся, одновременно признавая, что проверка всё ещё продолжается.⁵

Таким образом, главное разногласие заключается не в том, был ли этот доступ несанкционированным: обе стороны фактически согласны, что да. Оно касается ответственности. Австралия видит в произошедшем неприемлемое нарушение, усугублённое несвоевременным уведомлением. OpenAI представляет его как непреднамеренное поведение модели, выявленное благодаря собственному мониторингу. В любом случае этот эпизод показывает, что защитные меры могут дать сбой, а ответственность может наступить спустя долгое время после проникновения.