O Doutor Gilmar Stelo, advogado e fundador do Stelo Advogados Associados, acompanha um debate que ganhou relevância à medida que a inteligência artificial passou a participar de decisões, análises e tarefas antes realizadas exclusivamente por pessoas: quem responde quando um sistema produz uma informação incorreta, recomenda uma conduta inadequada ou contribui para um prejuízo? No Brasil, essa discussão está relacionada à tramitação do Marco Legal da Inteligência Artificial.
Continue a leitura para mais!
A inteligência artificial não assume responsabilidade sozinha
Embora a tecnologia possa produzir resultados de maneira autônoma, a responsabilidade jurídica não é atribuída à inteligência artificial como se ela fosse uma pessoa. A análise tende a considerar quem desenvolveu, forneceu, disponibilizou, empregou ou supervisionou o sistema e qual foi a participação de cada agente no resultado. Essa avaliação é importante porque permite verificar quais deveres existiam em cada etapa e se houve alguma conduta capaz de contribuir para o dano ou para a falha identificada.
De acordo com o Doutor Gilmar Stelo, essa distinção é importante porque diferentes situações podem envolver diferentes responsáveis. Um erro causado por uma falha de desenvolvimento não necessariamente será analisado da mesma forma que um dano decorrente do uso inadequado de uma ferramenta. Por isso, identificar apenas que a IA errou não encerra a questão. É necessário compreender as circunstâncias do caso, verificar como o sistema foi utilizado e analisar se havia mecanismos de controle ou possibilidade de intervenção antes que o resultado produzisse consequências.
O debate legislativo brasileiro considera justamente elementos como o grau de autonomia e de risco do sistema. As versões discutidas no Senado também trataram da responsabilidade civil conforme as características da tecnologia e da participação dos diferentes agentes envolvidos. Essa abordagem demonstra que a evolução da inteligência artificial exige critérios capazes de diferenciar tecnologias, contextos de utilização e níveis de participação humana, evitando que situações distintas recebam necessariamente o mesmo tratamento jurídico.
O uso da ferramenta também pode entrar na análise
Imagine uma empresa que utiliza inteligência artificial para apoiar decisões importantes. Se o sistema apresentar uma informação incorreta, será necessário verificar como a ferramenta foi utilizada, quais instruções recebeu e se havia mecanismos de supervisão. Também pode ser necessário avaliar se os responsáveis pela operação tinham condições de identificar a inconsistência antes de utilizar o resultado e quais procedimentos foram adotados para reduzir a possibilidade de erro.
Segundo o Doutor Gilmar Stelo, esse ponto ganha relevância porque o usuário da tecnologia não necessariamente está em uma posição passiva. Dependendo do caso, sua conduta pode influenciar a avaliação da responsabilidade, especialmente quando existiam orientações específicas de uso ou possibilidades razoáveis de conferir o resultado antes de uma decisão. A forma de utilização da ferramenta, portanto, pode ser relevante para determinar se houve cuidado adequado ou se alguma falha na operação contribuiu para o dano posteriormente identificado.
Uma proposta analisada no Senado chegou a prever situações em que o operador poderia afastar sua responsabilidade diante de culpa exclusiva da vítima ou força maior, além de estabelecer regras específicas para sistemas supervisionados. A discussão evidencia a preocupação em estabelecer critérios proporcionais às circunstâncias de cada caso, considerando tanto o funcionamento da tecnologia quanto as condutas adotadas por quem participa de sua utilização.
O fornecedor também pode ter deveres
A responsabilidade pode alcançar quem desenvolveu ou forneceu o sistema quando o problema estiver relacionado à própria tecnologia. Falhas previsíveis, ausência de medidas adequadas de segurança ou deficiências que poderiam ter sido evitadas são exemplos que podem entrar na avaliação jurídica, conforme o regime aplicável. Por isso, não basta verificar que a ferramenta apresentou um resultado incorreto, sendo necessário analisar se havia problemas conhecidos ou medidas razoáveis que poderiam ter sido adotadas para reduzir o risco de dano.
O projeto em tramitação na Câmara mostra como essa discussão está avançando para situações específicas. Uma das propostas incorporadas ao debate prevê responsabilidades relacionadas ao uso de IA generativa e considera a possibilidade de responsabilização do desenvolvedor diante de falhas previsíveis ou evitáveis atribuíveis a negligência, imperícia ou omissão. O Doutor Gilmar Stelo destaca que a discussão também reforça a importância de avaliar as condições em que a tecnologia foi desenvolvida e disponibilizada, especialmente quando existiam riscos que poderiam ter sido identificados ou reduzidos antes de sua utilização.
