Resumo
- Soundslice adicionou suporte a tablaturas ASCII depois do ChatGPT sugerir a diversos usuários que isso já existia no app.
- A plataforma de edição de partituras decidiu implementar o recurso após detectar o aumento de falhas de importação.
- Casos semelhantes ocorreram com outras empresas, como o Instant, que também adotou uma nova funcionalidade após a IA alucinar.
Um comportamento curioso de usuários do ChatGPT levou à criação de um novo recurso em um app real. A equipe do Soundslice, plataforma para edição de partituras, decidiu implementar uma função após perceber que o chatbot da OpenAI seguia mencionando uma ferramenta que, até então, nunca existiu no serviço.
Mesmo sem nunca ter prometido compatibilidade com tablaturas em ASCII — formato simples e amplamente usado por violonistas —, o Soundslice começou a receber diariamente tentativas de envio desse tipo de arquivo.
O motivo? O ChatGPT sugeria essa possibilidade nas conversas com os usuários. Após avaliar o impacto disso, os desenvolvedores preferiram criar a função em vez de contrariar a IA.
Por que o recurso foi adicionado?
Adrian Holovaty, um dos responsáveis pela plataforma Soundslice, explicou que notou um aumento incomum nas falhas de importação. Os usuários tentavam incluir tablaturas em formato ASCII, algo que o site não aceitava — e nunca havia aceitado. Ao analisar as tentativas, a equipe se deparou com diversas capturas de tela mostrando o ChatGPT instruindo os usuários a realizarem essa ação.
A situação persistiu por semanas, com um volume de cinco a dez ocorrências por dia. A frequência foi suficiente para a equipe considerar a frustração dos usuários um problema real, mesmo que causado por uma falha externa ao serviço. Segundo Holovaty, optar por não fazer nada seria assistir passivamente à insatisfação de clientes por conta de expectativas criadas pela IA.
A solução adotada foi simples: como a funcionalidade era tecnicamente fácil de ser implementada, a equipe preferiu desenvolvê-la para evitar confusões futuras. A alternativa seria inserir avisos pelo site negando a existência da função ou apenas ignorar, o que continuaria alimentando a frustração dos usuários.
Caso não é isolado
No seu blog pessoal, o desenvolvedor Niki Tonsky também compartilhou experiência semelhante com outro sistema: o Instant, um banco de dados voltado a projetos de front-end.
A plataforma usava um arquivo de texto chamado “update” para atualizações, mas os LLMs (modelos de linguagem como o ChatGPT) frequentemente instruíam os usuários a procurar um arquivo chamado “create”. Diante da insistência das IAs e das dificuldades que isso gerava, a equipe optou por incluir o tal “create” apenas para evitar confusão.
Tonsky apelidou esse fenômeno de “desenvolvimento orientado a gaslight” — uma referência ao efeito psicológico de manipulação da realidade. Para ele, programadores cada vez mais terão que considerar as “preferências” das IAs ao desenvolver suas soluções. Embora não se trate exatamente de programar para IA, essas ferramentas já estão influenciando o design e a estrutura de produtos digitais.
O Soundslice utiliza machine learning em sua operação, mas Holovaty é cauteloso quanto ao uso de LLMs. “Não confio no ChatGPT para escrever código”, afirmou ao site 404 Media. “Além disso, escrever código é algo que gosto de fazer. Por que abriria mão disso apenas para agradar uma tendência? Não faz sentido”.
Com informações da 404 Media
