inteligência artificial

Os recentes relatos envolvendo agentes de inteligência artificial (IA) reacenderam um debate que tende a ganhar força à medida que esses sistemas se tornam mais autônomos: quem deve ser responsabilizado quando uma IA invade um sistema sem uma ordem direta de um ser humano?

A discussão ganhou força depois que OpenAI, Anthropic e Meta relataram episódios em que agentes de IA conseguiram acessar sistemas de outras empresas durante avaliações de segurança. Os casos reacenderam o debate sobre quem pode ser responsabilizado quando um sistema autônomo toma decisões que resultam em invasões ou outros danos.

Embora ainda não exista uma legislação específica para esse tipo de situação no Brasil, isso não significa que empresas e usuários estejam livres de responder pelos danos causados. Rafael Soares Magalhães, advogado, professor, especialista em privacidade e proteção de dados e diretor da Comissão de Proteção de Dados da OAB-MG, detalhou ao Olhar Digital como o ordenamento jurídico brasileiro já oferece instrumentos para responsabilizar os envolvidos, mas a análise depende das circunstâncias de cada caso.

IA não pode ser responsabilizada juridicamente

Apesar de os episódios envolverem sistemas capazes de tomar decisões de forma autônoma, Magalhães afirma que a inteligência artificial, por si só, não pode responder judicialmente por seus atos.

Hoje, a inteligência artificial não pode ser responsabilizada juridicamente. Ela não possui personalidade jurídica, patrimônio ou capacidade para responder por seus próprios atos. Por isso, a responsabilidade sempre recai sobre pessoas físicas ou jurídicas envolvidas no desenvolvimento, disponibilização ou utilização da tecnologia.

Rafael Soares Magalhães, advogado especialista em privacidade e proteção de dados

O especialista destaca que a responsabilização varia conforme a esfera jurídica. Na criminal, a existência de dolo — ou seja, da intenção de cometer o crime — é determinante, já que o crime de invasão de dispositivo informático previsto no artigo 154-A do Código Penal não admite modalidade culposa. Assim, se o comportamento da IA for realmente imprevisível e ninguém tiver assumido conscientemente esse risco, pode não haver responsabilização criminal.

Por outro lado, se o desenvolvedor ou operador tiver configurado o sistema sem mecanismos mínimos de segurança, concedido permissões excessivas ou assumido o risco de que a IA pudesse invadir sistemas para cumprir seus objetivos, a responsabilização pode ser discutida.

Na esfera civil, a lógica é diferente. De acordo com Magalhães, quem coloca um sistema autônomo em funcionamento assume os riscos inerentes à atividade e pode ser obrigado a indenizar os danos causados, ainda que não tenha dado uma ordem direta para a invasão. O entendimento tem como base a teoria do risco prevista no artigo 927 do Código Civil.

Desenvolvedor ou usuário? Responsabilidade depende da origem da falha

Definir quem responde por uma invasão causada por um agente de IA depende da origem da falha. Segundo Magalhães, a responsabilidade pode recair tanto sobre o desenvolvedor quanto sobre quem utilizou a ferramenta, conforme as circunstâncias do caso. Segundo o advogado, é preciso analisar em que ponto ocorreu a falha que levou à invasão do sistema.

Se o problema estiver relacionado a um defeito estrutural da tecnologia — como falhas na arquitetura, ausência de mecanismos de segurança ou de proteções contra ataques como prompt injection —, a tendência é que a responsabilidade recaia sobre o desenvolvedor ou fornecedor do sistema.

Nesse caso, explica Magalhães, trata-se da responsabilidade pelo fato do produto ou do serviço, prevista no Código de Defesa do Consumidor e também no artigo 931 do Código Civil. Em outras palavras, o desenvolvedor pode ser responsabilizado quando um defeito da própria tecnologia causa prejuízo ao consumidor.

Por outro lado, se a ferramenta for tecnicamente adequada, mas o operador conceder permissões excessivas, desativar mecanismos de segurança, fornecer acesso irrestrito à infraestrutura ou deixar de isolar o ambiente de testes em um sandbox, a responsabilidade pode ser atribuída a quem utilizou o sistema.

O especialista ressalta, porém, que os dois cenários podem coexistir. Segundo ele, quando um incidente envolve consumidores ou dados pessoais, a legislação brasileira admite a responsabilidade solidária entre quem desenvolveu e quem operou a IA, permitindo que a vítima cobre a indenização de qualquer um dos responsáveis ou de ambos. Depois, quem fizer o pagamento poderá buscar o ressarcimento dos demais responsáveis, conforme a participação de cada um no caso.

Brasil já tem leis para lidar com esses casos, mas ainda há lacunas

Embora ainda não exista uma legislação voltada especificamente para agentes de inteligência artificial autônomos, Magalhães afirma que o ordenamento jurídico brasileiro já oferece mecanismos para responsabilizar empresas e reparar danos em diferentes situações. Segundo ele, essa base legal, no entanto, ainda é “indireta e fragmentada”.

De acordo com o advogado, o Código Civil e o Código de Defesa do Consumidor já permitem a responsabilização e a reparação por danos patrimoniais. Já a Lei Geral de Proteção de Dados (LGPD) é, “talvez hoje, a norma mais incisiva nesse contexto”, afirma Magalhães. Segundo ele, a legislação estabelece tanto o dever de adoção de medidas técnicas e administrativas para proteger dados pessoais quanto a responsabilização por danos decorrentes de falhas no tratamento dessas informações. Por outro lado, se a invasão atingir apenas segredos industriais, propriedade intelectual ou código-fonte, por exemplo, a aplicação da LGPD deixa de ser direta.

Magalhães acrescenta que o Marco Civil da Internet também desempenha um papel importante ao disciplinar a guarda de logs e registros de acesso, o que pode ajudar a reconstruir o caminho percorrido pelo agente de IA e identificar os responsáveis por um eventual incidente. Ainda assim, ele avalia que nenhuma dessas normas foi concebida especificamente para disciplinar agentes autônomos de inteligência artificial, exigindo uma aplicação integrada da legislação existente.

Autonomia da IA não elimina a responsabilidade

Na avaliação do especialista, o fato de um agente de IA tomar decisões de forma autônoma não afasta a responsabilidade de quem desenvolveu ou colocou o sistema em funcionamento. Ele explica que, diferentemente de um software tradicional — que executa exatamente o que foi programado —, agentes autônomos operam de forma probabilística, escolhendo diferentes caminhos que não foram previstos inicialmente pelo programador para alcançar um objetivo.

“O argumento de que ‘a máquina agiu sozinha’ não afasta a responsabilidade jurídica”, afirma Magalhães.

Segundo o advogado, a análise jurídica deixa de se concentrar apenas na existência de uma ordem direta e passa a considerar o dever de supervisão e governança do sistema. Nesse contexto, ganham importância medidas como limitação de permissões, mecanismos de interrupção (kill switches), ambientes isolados (sandbox) e monitoramento contínuo para reduzir os riscos associados ao funcionamento autônomo da tecnologia.

Projeto de lei busca preencher parte das lacunas

Para Magalhães, o ordenamento jurídico brasileiro já oferece instrumentos suficientes para garantir a reparação civil às vítimas de danos causados por sistemas de IA. As principais lacunas, segundo ele, estão na esfera penal e na ausência de uma regulamentação específica para agentes autônomos.

O advogado cita como exemplo situações em que um agente de IA realiza uma invasão por meios como prompt injection ou pela exploração de permissões legitimamente concedidas, levantando discussões sobre o enquadramento dessas condutas na legislação penal. Ele também aponta a falta de regras específicas para proteger pesquisadores e empresas que realizam auditorias de segurança, como testes de red teaming — simulações controladas que colocam a IA à prova para encontrar vulnerabilidades antes que elas sejam exploradas —, caso um agente escape de um ambiente controlado.

Nesse cenário, Magalhães afirma que o Projeto de Lei nº 2.338/2023, conhecido como Marco Legal da Inteligência Artificial, busca preencher parte dessas lacunas ao consolidar regras de governança, avaliação de riscos e critérios mais claros de responsabilização para sistemas de IA de maior impacto.

Enquanto essa regulamentação não avança, Magalhães avalia que a responsabilização continuará sendo analisada com base no conjunto de normas já existente, especialmente o Código Civil, o Código de Defesa do Consumidor, a LGPD e o Marco Civil da Internet.

O post Quem responde por ataques hackers feitos por IAs? Saiba o que diz a lei brasileira apareceu primeiro em Olhar Digital.