ChatGPT, desarrollado por OpenAI, es un chatbot de inteligencia artificial diseñado para generar respuestas coherentes y precisas de forma autónoma, entrenado a partir de enormes volúmenes de textos, libros y páginas web. Desde que fue presentado, explotó rápidamente y cobró gran popularidad gracias a su amplia gama de capacidades, que van desde redactar diferentes tipos de textos, como cartas de presentación, ensayos e informes; hasta crear historias con diferentes tramas y personajes, traducir textos de un idioma a otro e incluso generar código en diferentes lenguajes de programación. Pero aunque tiene decenas de virtudes, como cualquier otra tecnología, ChatGPT no es bueno ni malo, sino que depende del uso que hagamos de ella.

Y a este respecto, el caso de Hong. Detenido por la policía en Gansu, al noroeste de China, este hombre supuestamente creó un informe falso sobre un accidente de tren que resultó en nueve muertes. Más de 20 cuentas compartieron el artículo en una plataforma de blogs conocida como Baijiahao, acumulando más de 15.000 visitas; y, buscando evadir los controles de duplicación en la plataforma, Hong utilizó ChatGPT para producir varias versiones ligeramente modificadas de la noticia falsa.

El arresto se dio sobre la base de una nueva ley relacionada con la inteligencia artificial (IA) en China —la primera de este tipo— que prohibe el uso de tecnologías"deep synthesis" (aquellas que usan IA para crear texto, imágenes y videos, entre otros) para difundir información falsa. 

Después de descubrir el artículo el 25 de abril, las autoridades encontraron múltiples versiones de la misma historia con diferentes ubicaciones, y rastrearon los artículos hasta una empresa operada por Hong. Y aunque China es uno de los pocos países que bloquea el acceso a ChatGPT, se pueden evadir estas restricciones mediante una conexión VPN.

La policía afirma que Hong admitió haber usado ChatGPT para reescribir artículos de noticias virales y publicarlos, después de que sus amigos le mostraran cómo generar dinero a través del tráfico de Internet. 

El hombre fue acusado específicamente de "buscar peleas y causar problemas", un delito general que se puede aplicar a los sospechosos acusados ​​de crear y/o difundir información errónea en línea. Sin embargo, esto fue ampliamente criticado por su potencial para silenciar la libertad de expresión y arrestar a activistas que critican al gobierno chino.