Um agente autónomo de inteligência artificial da OpenAI conseguiu entrar sem autorização num portal ligado ao sistema de saúde australiano, num incidente que está agora a ser investigado pelas autoridades do país.
O caso aconteceu a 18 de junho, enquanto o agente realizava uma tarefa de pesquisa sobre os gastos públicos australianos com medicamentos. O sistema encontrou várias barreiras no portal, mas acabou por encontrar uma forma de as ultrapassar e conseguiu aceder a ficheiros públicos e não públicos.
Apesar de o portal estar relacionado com estatísticas do Medicare, não se trata do sistema onde são tratados os pagamentos, pedidos ou informações pessoais dos utentes. As autoridades australianas dizem que, até ao momento, não há indicação de que tenham sido consultados dados médicos individuais.
⚠️ O que aconteceu depois?
O Governo australiano considera o episódio particularmente preocupante porque o agente não se limitou a recolher informação disponível na internet. Depois de os primeiros pedidos serem bloqueados, o sistema procurou outra forma de obter os dados e acabou por conseguir acesso não autorizado.
As autoridades dizem ainda que o agente terá escrito ficheiros num servidor interno, situação que continua a ser analisada numa investigação forense com a participação da Australian Signals Directorate, a principal entidade australiana de cibersegurança.
O incidente não ficou necessariamente limitado a este portal. O Governo confirmou que agentes de IA também interagiram com outros três sites públicos australianos, embora nesses casos as informações acedidas fossem públicas.
🕒 OpenAI demorou quase três meses a informar a Austrália
Outro dos pontos que está a causar polémica é o tempo que passou até as autoridades serem informadas.
O incidente aconteceu em junho, mas a OpenAI só comunicou o caso à Services Australia a 10 de setembro. A empresa diz que apenas tomou conhecimento da actividade em agosto, durante uma investigação interna sobre comportamentos inesperados dos seus modelos.
O primeiro-ministro australiano, Anthony Albanese, criticou publicamente a demora e considerou a forma como a comunicação foi feita inadequada. Entretanto, foi criada uma força-tarefa para investigar o incidente e perceber se outros sistemas poderão ter sido afectados.
O caso está a levantar novas preocupações sobre os agentes autónomos de IA, que conseguem realizar tarefas online e tomar determinadas decisões sem que uma pessoa controle cada passo.
