Sam Altman responde a Elon Musk sobre las afirmaciones de seguridad de ChatGPT

El CEO de OpenAI, Sam Altman, respondió a Elon Musk después de que el jefe de Tesla advirtiera públicamente contra el uso de ChatGPT.

Altman acusó a Musk de ser hipócrita luego de que citara muertes supuestamente vinculadas al chatbot de IA mientras ignoraba accidentes fatales “aparentemente” relacionados con la tecnología Autopilot de Tesla.

El conflicto estalló cuando un usuario de X publicó que "ChatGPT ha sido vinculado ahora a 9 muertes relacionadas con su uso, y en 5 casos se alega que sus interacciones condujeron a muertes por suicidio, incluidos adolescentes y adultos", a lo que Musk respondió: “No dejen que sus seres queridos usen ChatGPT”.

"A veces se quejan de que ChatGPT es demasiado restrictivo, y luego en casos como este afirman que es demasiado relajado,” tuiteó Altman, señalando que, “Casi mil millones de personas lo usan y algunas de ellas pueden estar en estados mentales muy frágiles.”

Los chatbots de IA bajo escrutinio

La disputa surge en medio del escrutinio legal y regulatorio sobre los chatbots de IA y su impacto en usuarios vulnerables, ya que OpenAI enfrenta múltiples demandas por muerte injusta relacionadas con supuestos fallos en las salvaguardas de salud mental.

“Seguiremos haciendo lo mejor posible para hacerlo bien… pero estas son situaciones trágicas y complejas que merecen ser tratadas con respeto”, agregó el CEO de OpenAI.

Altman devolvió el argumento de la seguridad a Musk, citando informes de que “más de 50 personas” han muerto en accidentes vinculados al Autopilot de Tesla y diciendo que su propia breve experiencia lo dejó pensando que estaba “lejos de ser algo seguro” para haber sido lanzado, antes de negarse a comentar más sobre las decisiones de Musk respecto al chatbot Grok.

"Llevás 'toda acusación es una confesión' demasiado lejos”, señaló.

OpenAI reveló el año pasado que aproximadamente 1,2 millones de sus 800 millones de usuarios semanales discuten el suicidio con el chatbot cada semana, y cientos de miles muestran signos de intención suicida o psicosis.

Siete familias presentaron demandas contra la plataforma en noviembre, alegando que el modelo GPT-4o de la empresa fue lanzado prematuramente y sin salvaguardas efectivas.

Cuatro de las demandas abordan el presunto papel de ChatGPT en los suicidios de miembros de la familia, mientras que las otras tres afirman que ChatGPT reforzó delirios dañinos que, en algunos casos, resultaron en internación psiquiátrica.

El mes pasado, OpenAI enfrentó su primera demanda que vincula a ChatGPT con un homicidio, cuando la herencia de una mujer de Connecticut de 83 años demandó a la empresa y a Microsoft, alegando que el chatbot validó las creencias delirantes de Stein-Erik Soelberg, quien luego mató a su madre, Suzanne Adams, antes de suicidarse en agosto.

Altman vs Musk

La guerra de declaraciones apunta a tensiones de larga data entre los cofundadores de OpenAI.

Musk ayudó a lanzar OpenAI en 2015 junto a Altman, Greg Brockman e Ilya Sutskever, pero renunció a su junta en 2018, según un anuncio que decía que su salida "eliminaría un posible conflicto futuro" mientras Tesla expandía su propio trabajo en IA.

Desde entonces, Musk ha acusado a OpenAI de abandonar su misión sin fines de lucro para convertirse en "un brazo cerrado y orientado al lucro de Microsoft" y ha presentado múltiples demandas contra la empresa, incluidas denuncias por abandonar su misión fundacional y supuesta apropiación indebida de secretos comerciales.

En noviembre, un juez federal permitió que avanzara hacia juicio la demanda antimonopolio de Musk contra Apple y OpenAI, con X Corp. y xAI buscando miles de millones en daños y perjuicios por Apple haciendo de ChatGPT el asistente de IA exclusivo en iOS mientras supuestamente bloqueaba a competidores como Grok.