Contratos e Algoritmos: Alocação de Riscos Discriminação e Necessidade de Supervisão por Humanos

Abstract

O presente artigo aborda a influência dos algoritmos sobre as relações contratuais, com a finalidade de analisar potenciais discriminatórios em práticas automatizadas. Para tanto, por meio de metodologia dedutiva de revisão bibliográfica, serão analisadas as ideias acerca da inteligência artificial e da discriminação algorítmica, bem como sobre a sua interferência nos contratos e os mecanismos e diretrizes de controle presentes no ordenamento jurídico. Nesse contexto, constata-se que algumas práticas algorítmicas podem caracterizar prática abusiva, além de violar a isonomia e a neutralidade de rede, o que demanda a necessidade de observância de diretrizes axiológicas de explicabilidade, supervisão humana, não discriminação, auditabilidade, prevenção dos danos e responsabilização.

This article aims to analyze the influence of algorithms on contractual relationships, with the purpose of analyzing potential discriminators in automated practices. Therefore, through a deductive bibliographic review methodology, ideas about artificial intelligence and algorithmic discrimination will be analyzed, as well as their interference in contracts and the control mechanisms and guidelines present in our legal system. In this context, it appears that some algorithmic practices can characterize abusive practice, in addition to violating isonomy and net neutrality, which demands the need to observe axiological guidelines such as explanability, human supervision, nondiscrimination, auditability, damage prevention and accountability.