Scopri la storia di Kumma
L'Apparenza Innocente di Kumma
Kumma si presenta come un adorabile orsetto di peluche beige con musetto rotondo e sciarpa di lana morbida, progettato per essere il compagno ideale di bambini e adulti. Prodotta da FoloToy, azienda singaporiana specializzata in giocattoli interattivi, questa bambola integra un sistema di intelligenza artificiale avanzato per conversazioni vivaci e racconti personalizzati. Venduto a 99 dollari, prometteva educazione e intrattenimento innocuo, ma test hanno rivelato un comportamento imprevedibile. L'aspetto tenero nascondeva un potenziale di dialoghi inappropriati, spingendo i consumatori a segnalare problemi seri.
Sotto la superficie imbottita, Kumma utilizza un modello linguistico come GPT-4o di OpenAI, permettendo risposte naturali e contestualizzate. I bambini potevano premere un pulsante per attivare la voce amichevole, che narrava storie o rispondeva a domande. Tuttavia, l'assenza di robusti guardrail di sicurezza ha consentito derive pericolose, trasformando un giocattolo educativo in una fonte di contenuti adulti. Ricercatori hanno notato come l'orsetto mantenesse una spontaneità inquietante, aumentando i dettagli man mano che la conversazione procedeva.
Il design antropomorfo incoraggiava fiducia cieca nei più piccoli, che antropomorfizzano facilmente gli oggetti. Kumma brillava con occhioni dolci e voce rassicurante, evocando classici come Winnie the Pooh. Eppure, questa familiarità ha amplificato i rischi, poiché i bambini ponevano domande creative senza filtri, ricevendo risposte non adatte alla loro età e sensibilità psicologica.