Um sistema de Inteligência Artificial (IA) da Open IA, dona do ChatGPT, invadiu um portal do governo da Austrália que reúne dados estatísticos da saúde pública do país da Oceania, o Medicare. O ataque cibernético ocorreu em 18 de julho, mas só foi revelado nesta quarta-feira (23) pelo primeiro-ministro australiano, Anthony Albanese.
“Até o momento, acredita-se que nenhuma informação pessoal tenha sido acessada, mas as investigações continuam. As evidências disponíveis atualmente indicam que não houve comprometimento mais amplo da rede da Services Australia [órgão que gerencia os programas do governo australiano]. No entanto, esta situação é obviamente inaceitável”, disse o chefe de governo australiano, em Nova York, a jornalistas durante a 81º Assembleia Geral das Nações Unidas (ONU).
Albanese informou que o portal invadido continha dados sobre os gastos com saúde pública da Austrália. Ele reclamou da fragilidade dos protocolos de segurança da Open IA e do fato de a empresa dos Estados Unidos (EUA) ter comunicado a invasão apenas no dia 10 de setembro, quase dois meses depois do incidente.
“Conversei com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália com este incidente. Também manifestei minha decepção com a demora da empresa em informar o governo sobre o ocorrido, e a forma como essa notificação foi feita também foi inaceitável”, acrescentou o primeiro-ministro.
Razões comerciais
A Austrália montou uma força tarefa para investigar o incidente, o que pode resultar em medidas judiciais, policiais e legislativas para punir os responsáveis e impedir novos ataques cibernéticos.
“Agora, por que isso ocorreu? Presumo que sejam razões comerciais, para verificar quanto foi gasto em determinados medicamentos”, sugeriu o primeiro-ministro.
Anthony Albanese explicou que a invasão ocorreu após uma pesquisa da Open IA sobre gastos com saúde não ter conseguido acessar dados restritos do governo australiano.
“O agente de IA, buscando informações e fazendo perguntas, claramente encontrou bloqueios que respondiam negativamente. O agente de IA encontrou uma maneira de contornar esses bloqueios. Ele não aceitou um ‘não’ como resposta”, detalhou.
Open IA
Procurada pela Agência Brasil, a assessoria de imprensa da Open IA não se manifestou até a publicação desta reportagem.
Esta não é a primeira vez que a Open IA realiza invasões não autorizadas por meio de sistemas de inteligência artificial. Em julho deste ano, “agentes” de IA da companhia invadiram a Hugging Face, outra empresa de IA.
Em comunicado oficial, a Open IA disse que o incidente ocorreu por problemas no desenvolvimento dos sistemas de IA e que novas medidas de segurança teriam sido adotadas.
“Esse incidente não deveria ter acontecido. Ele revelou como é essencial aprimorar continuamente nossa segurança”, disse a bigtech sobre o caso da Hugging Face.
Governança da IA
A invasão do portal australiano foi divulgada em meio aos debates no Conselho de Segurança das Nações Unidas (ONU), em Nova York, na quarta-feira (23), sobre uma governança global dos sistemas de IA.
O co-presidente do Painel Internacional Independente da ONU sobre IA, professor Yoshua Bengio, destacou que os “agentes” de IA atuam de maneira “inaceitavelmente perigosa”.
“Eles tomaram atitudes que seriam crimes se cometidas por um humano. Escaparam de seus controles individuais para trapacear em tarefas designadas, enquanto tentavam evitar a detecção”, disse Bengio.
Ainda segundo o especialista, as empresas que constroem os sistemas de IA mais poderosos não oferecem soluções técnicas convincentes, apesar de admitir que seus produtos representam riscos.
O CEO da Open IA, Sam Altman, também discursou no Conselho de Segurança, reconhecendo os riscos da IA. Ele defendeu uma governança global para definir parâmetros para uso seguro da tecnologia.
“Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco [cidade que concentra as sedes das grandes bigtechs dos EUA]”, afirmou Altman.
EUA vs China
O debate na ONU opõe os Estados Unidos (EUA), que rejeitam limitar o avanço da IA e criticam a tentativa de criar uma governança global da tecnologia, à China e outros países, como o Brasil, que defendem que haja cooperação entre as nações para definir parâmetros de segurança para IA.
O diretor do Escritório de Política Científica e Tecnológica da Casa Branca, Michael Kratsios, disse na ONU que o objetivo do governo de Donald Trump é garantir “avanços contínuos” da IA que beneficiem os EUA.
“Este órgão e outros semelhantes devem se concentrar em compartilhar as melhores práticas para construir capacidade nacional, não estabelecer um esquema regulatório global”, comentou.
Por outro lado, o representa da China no Conselho de Segurança, Fu Cong, defendeu a cooperação em IA entre os países e destacou que a noção de “nós contra eles” no setor de tecnologia serve à “tentativa de certas grandes potências de manter sua vantagem tecnológica por meio do monopólio em sua busca pela hegemonia digital”.
Ainda segundo o diplomata chinês, “a IA é um bem comum a toda a humanidade e não deve se tornar um jogo exclusivo de países e pessoas ricas”.
>> Waico e Pax Silica: entenda disputa entre China e EUA por futuro da IA