A vegades la realitat supera la ficció i amb l’últim comunicat de l’empresa OpenAI sembla que això ja està passant. Si has vist la pel·lícula ‘Her’ potser recordes com el protagonista comença a establir una relació emocional amb la veu de la intel·ligència emocional, doncs bé segons adverteixen això podria estar passant actualment.

OpenAI, empresa líder en intel·ligència artificial, ha enviat un comunicat on adverteix sobre els riscos emocionals associats amb el seu nou model de IA avançat.

Aquest comunicat se centra en la possibilitat que els usuaris i usuàries desenvolupin una dependència emocional cap a les interaccions amb aquesta IA, que ha estat dissenyada per mantenir conversacions més naturals i empàtiques.
El nou model GPT-4o presenta un risc “moderat” pel que fa a la seva capacitat de persuasió, especialment en les interaccions textuals, i pot portar a establir una dependència emocional, concretament a causa dels seus avenços pel que va a la tecnologia de veu i àudio.

Segons indiquen, el model ha estat entrenat amb grans dades per comprendre i respondre de manera més humana i pot crear la il·lusió d’una relació personal. De fet, expliquen que alguns usuaris experimenten una connexió emocional més profunda del que és saludable.
Tanmateix, aquesta capacitat també augmenta els riscos d'antropomorfització, és a dir, la tendència a atribuir característiques humanes a entitats no humanes, com els models d'IA.

OpenAI ha reconegut la importància de continuar investigant els riscos potencials del desenvolupament emocional dels usuaris amb la IA. L'empresa planeja realitzar més estudis acadèmics i proves internes per comprendre millor com la integració profunda de les característiques del model, combinada amb la modalitat de veu, podria influir en el comportament dels usuaris.