Algumas notícias recentes, sobretudo nos EUA, alertam para o risco da utilização de sistemas baseados em Inteligência Artificial (IA) em áreas como a educação, trabalho, saúde ou justiça e que discriminam negativamente cidadãos devido ao seu género, etnia ou outras características como idade ou religião.
Como se constroem sistemas de Inteligência Artificial? Porque é que a máquina aprende a discriminar? É possível promover igualdade de género com a Inteligência Artificial? Pedro Saleiro responde no palco do TEDxPorto.
Pedro Saleiro é Director of AI Research na Feedzai, onde lidera um novo grupo de investigação que trabalha em FATE (Fairness, Accountability, Transparency and Ethics in AI). Anteriormente trabalhou com Rayid Ghani na Universidade de Chicago, onde participou em projetos de data science de grande impacto social.
É também um dos criadores da ferramenta open source Aequitas, um toolkit que permite auditar modelos de machine learning e detetar potenciais discriminações em relação a grupos definidos por género, etnia, idade ou outros atributos sensíveis. Está ativamente empenhado na adoção generalizada de auditorias públicas a sistemas inteligentes como forma de promover inteligência artificial responsável, que contribua para promover igualdade. This talk was given at a TEDx event using the TED conference format but independently organized by a local community. Learn more at www.ted.com/tedx