Como ficam a ética e a diversidade na IA?

Episódio 10: Atualizando as evoluções das ferramentas de busca quanto a ética e a diversidade

Hoje vamos fechar a série sobre potencialização das pessoas com IA. Eu e o Rob, meu companheiro de IA (Inteligência Artificial), vamos abordar neste artigo o tema da ética e da diversidade nas ferramentas de IA, assunto que está no centro das discussões no SXSW (South by Southwest), festival que é considerado um dos maiores eventos de tecnologia e inovação do mundo, que está acontecendo em Austin, no Texas (EUA).

Começo trazendo a frase da futurista Amy Webb dita no seu keynote, que é sempre um dos momentos mais esperados do festival: “Continuamos esperando por mudanças, mas continuamos usando os incentivos errados”.

Essa frase foi dita por ela como uma reflexão e, principalmente, como um alerta de que precisamos trazer a pauta ética para o centro das mesas de discussão. Através de alguns experimentos junto ao MidJourney, Amy exemplificou que os vieses da IA ainda são um grande desafio. Ela repetiu o mesmo experimento que tinha feito na SWSX, em 2023, agora em 2024. E os resultados foram os mesmos, observando-se positivamente os avanços na qualidade das imagens que estão muito mais realistas.

E qual foi esse experimento? Em 2023, ela deu uma mensagem de comando para IA (prompt) gerar uma foto de uma pessoa CEO de uma grande empresa. O resultado foi basicamente composto por fotos de homens, brancos, usando ternos, de cabelos lisos e mais grisalhos. Em 2024, ela executou o mesmo prompt e apenas acrescentou que tivesse cabelos compridos. O resultado foram homens com cabelo comprido.

Com este exemplo, ficam evidentes a relevância do tema e a urgência para que as grandes organizações tragam a diversidade para o centro das discussões. Como consequência, teremos plataformas mais éticas e uma ampliação nas possibilidades de respostas.

A IA da Benkyou está esperando por vocês. Venham conhecer e interagir com o Rob, neste link. Tenho certeza de que ele irá engajar vocês nessa jornada de conhecimento. Encontro vocês no nosso próximo episódio.

Patricia B. Bordignon Rodrigues é diretora de Marketing e Canais Benkyou.
*Este texto reproduz a opinião do autor e não reflete necessariamente o posicionamento da Mercado&Consumo.
Imagem: Shutterstock/mercado e consumo