A aceleração da disseminação da IA, principalmente a IA generativa, tem suscitado a atenção mundial pelo potencial de uso indevido, que pode gerar deepfakes, fake news, desrespeito a direitos autorais e exposição de informações privadas e sensíveis de pessoas e empresas.

Um aspecto importante do debate atual sobre a IA passa pela IA generativa (ou IAGen), que é a tecnologia que gera conteúdos (textos, imagens, vídeos, códigos) ao responder a comandos por interação por meio de linguagem natural. Esse tipo de IA vem ganhando notoriedade desde o lançamento do ChatGPT, em novembro de 2022, que é utilizado em diferentes países hoje, muito por causa do acesso gratuito e da interface fácil de usar.

A IA generativa cria conteúdo original a partir de grandes bases de dados, ou seja, usa dados para gerar mais dados, ao sintetizar texto, imagem, voz, vídeo, códigos. Ela é diferente da IA preditiva porque essa última usa modelos preditivos de aprendizado de máquina que extraem padres de dados e fazem previsões em tarefas específicas.

Entre as controvérsias da IA generativa, segundo o guia da Unesco, encontra-se a possibilidade de agravamento da desigualdade digital. Isso porque ela depende de enormes quantidades de dados e de um grande poder computacional, na maioria das vezes concentrados nas grandes empresas de tecnologia e em algumas economias, como Estados Unidos e China.

Essa característica faz com que criar e controlar a IA seja bem difícil para a maioria das companhias e países. Desse modo, nações e pessoas sem acesso a dados suficientes e sem possibilidade de arcar com os custos ficam em uma situação chamada pelos analistas de “pobreza de dados”.

A IA responsável é a que garante qualidade, segurança e uso ético dos dados, é compreensível para os usuários, utiliza algoritmos equitativos para evitar vieses ou discriminação, respeita o direito à privacidade, protege o sistema contra ameaças e informa sobre as escolhas de desenvolvimento e sobre implantação, gerenciamento e monitoramento. Essas características são ainda mais importantes quando o documento constata que o progresso no campo da IA sofreu uma aceleração drástica em 2023 e que a indústria continua a dominar a investigação de ponta da IA.

O documento também fornece dicas para fazer melhores prompts, ou seja, elaborar melhores perguntas para ajudar a obter resultados da IA mais afinados com o que de fato se deseja. Na prática, pode ser preciso realizar várias interações de um prompt até que se alcance o resultado esperado. As orientações são:

• Use linguagem simples, clara e direta que possa ser facilmente compreendida, evitando palavras complexas ou ambíguas.
• Inclua exemplos para ilustrar a resposta desejada ou o formato das conclusões geradas.
• Inclua o contexto, que é algo essencial para gerar conclusões relevantes e significativas.
• Refine e faça a interação conforme necessário, experimentando com diferentes variações.
• Seja ético, evitando comandos que possam gerar conteúdo inadequado, tendencioso ou prejudicial.

Por fim, como última contribuição deste guia, trazemos o documento Decision tree for the responsible application of AI [Árvore de decisão para a aplicação responsável da IA], elaborado pelo Centro para Responsabilidade Científica e Justiça (CSRJ), da Associação Norte- -Americana para o Avanço da Ciência (AAAS)32. O material sucinto e prático sugere uma árvore de decisão esquemática com passo a passo para ajudar pessoas e organizações a estruturarem todo o seu processo de tomada de decisão sobre desenvolver ou implantar suas soluções de IA. Engloba planejamento, criação, testes, aplicação e monitoramento.

Gráficos