China informa de la primera detención por noticias falsas generadas por ChatGPT

PEKÍN (Reuters) – Un hombre en la provincia china de Gansú fue detenido por utilizar presuntamente ChatGPT para generar una historia falsa sobre un accidente de tren. Lo que supone la primera detención en China en una investigación relacionada con la inteligencia artificial (IA), en un momento en que Pekín está reforzando la regulación de la tecnología de «deepfake» o manipulación virtual.

La historia, en la que se afirmaba que en el accidente murieron nueve trabajadores de la construcción en una ciudad de Gansú, al noroeste de China, obtuvo más de 15.000 clics tras su publicación en redes sociales el 25 de abril, según la oficina de la policía local de la ciudad de Pingliang.

Las nuevas normas chinas sobre «deepfake» prohíben a los proveedores de servicios y a los usuarios emplear esta tecnología para producir, difundir y fabricar información falsa.

Las normas, que entraron en vigor el 10 de enero, pretenden frenar el uso de la tecnología de IA generativa para alterar contenidos en línea.

Un total de 25 cuentas de Baijiahao, una plataforma tipo blog propiedad del gigante tecnológico chino Baidu, denunciaron el «accidente» con direcciones IP de diferentes lugares, según el comunicado de la policía.

El sospechoso, apellidado Hong, fue identificado y detenido por falsedad de información después que la policía rastreara todas las cuentas y descubriera que su empresa estaba implicada.

Hong supuestamente editó noticias generadas por ChatGPT y las subió a la plataforma propiedad de Baidu, informó la policía local, añadiendo que las investigaciones continuaban.