China acaba de arrestar a alguien por publicar una noticia falsa generada por IA: el primer precedente

La policía china detuvo recientemente a un hombre que supuestamente utilizó ChatGPT para crear y difundir noticias falsas. El arresto del sospechoso, según las autoridades locales, se ha convertido en la primera acción de este tipo en el país relacionada a una investigación por el uso indebido de herramientas impulsadas por inteligencia artificial.

El Departamento de Seguridad Pública explica que el pasado 25 de abril se calificó preliminarmente como falso un artículo que hacía referencia a que “un tren atropelló a un trabajador de la construcción de carreteras en Gansu esta mañana y mató a 9 personas”. Esto llevó a la Policía de Seguridad de Internet a iniciar rápidamente una investigación.

Investigación y arresto

La etapa inicial de la pesquisa reveló que el artículo en cuestión había sido publicado al mismo tiempo en 21 cuentas de Baijiahao, una plataforma estilo blog administrada propiedad del gigante de las búsquedas chino Baidu. Asimismo, indican, que la cantidad de visualizaciones de la información considerada como falsa había alcanzado las 15.000.

El paso siguiente de la policía fue rastrear los orígenes del artículo, búsqueda que dio como resultado, que una empresa registrada en Shenzhen y dirigida por un hombre de apellido Hong estaba detrás de las cuentas sospechosas. Una semana después, la policía registró la casa de Hong y recolectó evidencia de su sistemas informáticos.

Las autoridades aseguran que el sospechoso confesó haber utilizado ChatGPT para alterar los sistemas de protección de Baijiahao que evitan que se publiquen historias duplicadas. Para hacerlo, utilizaba la herramienta de IA de OpenAI para crear distintas versiones de artículos populares en la web y “obtener ganancias ilegales” con su publicación.

El 10 de enero de este año, la Administración del Ciberespacio de China puso en marcha nuevas reglas de sobre la utilización de la inteligencia artificial generativa en Internet. De acuerdo a la normativa, todos los medios generados por IA deben estar acompañados de etiquetas claras, entre otros recursos, para "evitar la desinformación".

En Xataka

Las sanciones de Estados Unidos están fracasando al menos en un aspecto: China y su inteligencia artificial

Cabe señalar que a lo largo de los años el país asiático ha sido acusado por diferentes organismos internacionales de censurar contenidos en Internet a través de diferentes métodos. Entre ellos se encuentran ‘El Gran Firewall’, que limita o bloquea el acceso a ciertos servicios y páginas web extranjeras, y el exhaustivo control a las plataformas digitales que operan en el país.

Imágenes: Marc-Olivier Jodoin | Captura de pantalla

En Xataka: Auditar los algoritmos: cómo combatir la desinformación sin caer en el Ministerio de la Verdad