Un caso ocurrido en la Florida; Estados Unidos volvió a poner bajo la lupa los límites de la privacidad al hablar con inteligencia artificial.
Darren Zhou, un exanalista de Goldman Sachs de 25 años, habría utilizado ChatGPT para hablar sobre la ruptura con su expareja. Según reportes del caso, las conversaciones evolucionaron hasta incluir amenazas explícitas contra ella, la compra de armas de fuego y terminó manifestando su intención de matarla si no podía estar con ella.
Las interacciones activaron los mecanismos de seguridad de la plataforma y, de acuerdo con los reportes, fueron sometidas a revisión. Posteriormente, la información habría llegado a las autoridades, permitiendo la intervención del FBI.
OpenAI ha explicado que ChatGPT cuenta con sistemas para detectar señales de posibles riesgos relacionados con violencia o daños graves. No significa que todas las conversaciones sobre violencia sean reportadas, pero cuando se identifica una amenaza que podría ser creíble e inminente, el caso puede ser evaluado por personal especializado y, en determinadas circunstancias, informado a las autoridades.
Un tribunal de Palm Beach le impuso ocho años de libertad condicional, prohibición absoluta de usar armas y la obligación de someterse a tratamiento psicológico estricto.
El caso abre una pregunta difícil: ¿hasta dónde debería llegar la privacidad de una conversación con una inteligencia artificial cuando existe un posible riesgo para la vida de otra persona?