A ideia de inteligência artificial (IA) não é unívoca, nem consolidada, podendo envolver diferentes graus de autonomia das máquinas. Em termos gerais, entendem-se, por IA, sistemas computacionais capazes de desempenhar competências semelhantes às humanas, como raciocinar, aprender e tomar decisões para atingir determinados objetivos. Esses sistemas já estão presentes em diversos âmbitos da vida social e podem gerar impactos positivos e negativos. Entre os riscos envolvidos, destacam-se aqueles associados aos vieses humanos que podem ser reproduzidos pelos algoritmos e aqueles relacionados à automatização de decisões.
Sobre o tema, considere os exemplos a seguir.
I. Programação de algoritmos com vieses racistas, especialmente em sistemas de segurança baseados em reconhecimento facial. II. Desenvolvimento de sistemas de recrutamento automatizado com vieses sexistas, que discriminam candidatas mulheres.
III. Uso de mecanismos de microdirecionamento político que, ao segmentarem propagandas eleitorais conforme perfis psicológicos, podem afetar a integridade da democracia.
São exemplos dos riscos citados acima: