Google Define Regras para IA em Aplicativos Android
A Google está incentivando os desenvolvedores de aplicativos Android a integrarem inteligência artificial generativa de maneira responsável. As novas diretrizes visam combater a criação de conteúdos problemáticos, como material sexual explícito e discursos de ódio, gerados por essas ferramentas. Aplicativos que utilizam IA devem garantir que não produzam Conteúdo Restrito, incluir um mecanismo para que os usuários possam denunciar informações ofensivas e serem comercializados de maneira precisa quanto às suas capacidades.
Testes e Segurança
Além disso, os desenvolvedores são fortemente recomendados a realizar testes rigorosos em seus modelos de IA para assegurar a segurança e a privacidade dos usuários. “Certifique-se de testar seus aplicativos em diversos cenários de uso e proteger contra comandos que possam manipular a função de IA generativa para criar conteúdo prejudicial ou ofensivo”, destacou Prabhat Sharma, diretor de segurança do Google Play, Android e Chrome.
Preocupações e Investigações
Essa orientação surge após uma investigação do 404 Media encontrar vários aplicativos na Apple App Store e Google Play Store que anunciavam a capacidade de criar imagens não consensuais de nudez. A rápida adoção de tecnologias de IA nos últimos anos levantou preocupações mais amplas sobre privacidade e segurança, relacionadas tanto aos dados de treinamento quanto à segurança dos modelos, proporcionando a atores maliciosos maneiras de extrair informações sensíveis e manipular os modelos para obter resultados inesperados.
Fonte: BoletimSec
Saiba mais sobre o Seguro Cyber:
