Resumo
- A Apple suspendeu o recurso de geração de notícias por IA após relatos de “alucinações” na criação de resumos.
- O problema incluiu a vinculação de notícias falsas aos logotipos de veículos respeitados, como a BBC.
- Em um caso recente, a ferramenta indicou erroneamente que Luigi Mangione, acusado de assassinar o CEO da UnitedHealthcare, teria dado um tiro em si mesmo.
- A empresa não especificou uma data para a reativação do recurso, mas a suspensão deve valer já na próxima atualização do iOS.
A Apple suspendeu nesta quinta-feira (16/01) o recurso de geração de notícias da Apple Intelligence. A decisão foi motivada após diversos casos em que o recurso alucinava na criação de resumos de notícias. O propósito da ferramenta era ler notícias de diferentes fontes e entregar, notificando o usuário, um sumário dos acontecimentos que estavam em alta.
Em um dos casos dessa alucinação, a ferramenta disse que Luigi Mangione, o suposto assassino do CEO da UnitedHealthcare, se deu um tiro. Além do problema da notícia falsa (ou seria notícia alucinada?), alguns resumos foram publicados com o logo da BBC, dando a entender que o veículo era o autor da informação.
Por que a Apple suspendeu o resumo de notícias do Apple Intelligence?
A Apple tomou a decisão de suspender o recurso após os vários casos de notícias alucinadas feitas pela IA, que carregavam a marca de veículos de comunicação. Além da BBC, Sky News, New York Times e Washington Post tiveram seus logos associados às notícias geradas pela Apple Intelligence — o que prejudica a imagem das empresas.
Ao analisarmos as alucinações, parece que a IA da Apple sofre de um problema de Velha da Praça. Assim como a personagem do programa televisivo, a ferramenta da big tech não compreende o que realmente leu e solta uma mistura de fatos.
Por exemplo, é provável que o caso de Luigi Mangione envolva, na verdade, a notícia da sua transferência para outra prisão após as primeiras audiências — realizadas no dia 17 de dezembro —, com a fake news divulgada no dia 19 de dezembro.
Assim, a Apple Intelligence pode ter pegado a notícia de que ele havia atirado no CEO da UnitedHealthcare e, ao juntar com os outros elementos, como Mangione se declarando inocente, saiu o “shoot himself” — se deu um tiro.
A BBC tem um entendimento similar. No início do mês, a Apple Intelligence enviou uma notificação sobre a notícia de que Rafael Nadal se assumiu gay — e dizendo que ele era brasileiro.
Para o veículo britânico, a IA confundiu uma notícia de Nadal com a do tenista João Lucas Reis da Silva, que se tornou o primeiro jogador abertamente homossexual em atividade na ATP.
Quando a Apple deve liberar o recurso novamente?
A big tech não deu nenhum prazo de previsão do retorno da ferramenta. Já a suspensão se dará com a próxima atualização do iOS, que deve ser lançada nos próximos dias.
Anteriormente, a Apple planejava manter o recurso ativo e entregar uma atualização melhorando a IA. Contudo, essa decisão manteria os problemas de notícias alucinadas, visto que o update poderia demorar — e nada garantiria sua eficiência.
Com informações de The Guardian e BBC
