Sam Altman responde a Elon Musk sobre las afirmaciones de seguridad de ChatGPT

El CEO de OpenAI, Sam Altman, respondió a Elon Musk después de que el jefe de Tesla advirtiera públicamente contra el uso de ChatGPT.

Altman acusó a Musk de hipocresía tras citar muertes supuestamente vinculadas al chatbot de IA mientras ignoraba accidentes fatales "aparentemente" relacionados con la tecnología Autopilot de Tesla.

El enfrentamiento estalló cuando un usuario de X publicó que "ChatGPT ahora ha sido vinculado a 9 muertes relacionadas con su uso, y en 5 casos se alega que sus interacciones llevaron a la muerte por suicidio, incluidos adolescentes y adultos", a lo que Musk respondió: "No dejes que tus seres queridos usen ChatGPT".

"A veces te quejas de que ChatGPT es demasiado restrictivo, y luego, en casos como este, afirmas que es demasiado permisivo", tuiteó Altman, señalando que "Casi mil millones de personas lo usan y algunos pueden encontrarse en estados mentales muy frágiles".

Los chatbots de IA bajo escrutinio

La disputa se da en medio del escrutinio legal y regulatorio de los chatbots de IA y su impacto en usuarios vulnerables, mientras OpenAI enfrenta múltiples demandas por homicidio culposo vinculadas a supuestas fallas en las salvaguardas de salud mental.

"Seguiremos haciendo nuestro mejor esfuerzo para hacerlo bien... pero estas son situaciones trágicas y complejas que merecen ser tratadas con respeto", añadió el CEO de OpenAI.

Altman devolvió el argumento de la seguridad a Musk, citando informes de que "más de 50 personas" han muerto en accidentes vinculados al Autopilot de Tesla y diciendo que su propia experiencia breve le hizo pensar que estaba "lejos de ser algo seguro" para haber sido lanzado, antes de negarse a comentar más sobre las decisiones de Musk respecto al chatbot Grok.

"Llevas 'toda acusación es una confesión' muy lejos", señaló.

OpenAI reveló el año pasado que aproximadamente 1,2 millones de sus 800 millones de usuarios semanales discuten sobre el suicidio con el chatbot cada semana, con cientos de miles mostrando signos de intención suicida o psicosis.

Siete familias presentaron demandas contra la plataforma en noviembre, alegando que el modelo GPT-4o de la empresa se lanzó prematuramente y sin salvaguardas efectivas.

Cuatro de las demandas abordan el presunto papel de ChatGPT en los suicidios de miembros de la familia, mientras que las otras tres alegan que ChatGPT reforzó delirios dañinos que, en algunos casos, resultaron en hospitalización psiquiátrica.

El mes pasado, OpenAI enfrentó su primera demanda que vincula ChatGPT con un homicidio, con el patrimonio de una mujer de Connecticut de 83 años demandando a la empresa y a Microsoft, alegando que el chatbot validó las creencias delirantes de Stein-Erik Soelberg, quien luego mató a su madre, Suzanne Adams, antes de suicidarse en agosto.

Altman vs Musk

La guerra de palabras apunta a tensiones de larga data entre los cofundadores de OpenAI.

Musk ayudó a lanzar OpenAI en 2015 junto a Altman, Greg Brockman e Ilya Sutskever, pero renunció a la junta en 2018, según un anuncio que decía que su salida "eliminaría un posible conflicto futuro" mientras Tesla expandía su propio trabajo en IA.

Desde entonces, Musk ha acusado a OpenAI de abandonar su misión sin fines de lucro para convertirse en "un brazo cerrado y orientado al lucro de Microsoft" y ha presentado múltiples demandas contra la empresa, incluidas acusaciones de abandonar su misión fundacional y presunto robo de secretos comerciales.

En noviembre, un juez federal permitió que la demanda antimonopolio de Musk contra Apple y OpenAI avanzara hacia juicio, con X Corp. y xAI buscando miles de millones en daños debido a que Apple hizo de ChatGPT el asistente de IA exclusivo en iOS mientras supuestamente bloqueaba a competidores como Grok.