El futuro de las fake news online ya existe: esta IA es capaz de generar texto falso

Los titulares de los medios, cada semana, se copan con anuncios apocalípticos sobre cómo la inteligencia artificial podrá hacer muchas cosas mejor que nosotros. Lo cierto es que aún hay campos en los que a la pobre le cuesta y menos mal, ya que de afinarse adecuadamente podríamos tener problemas (aunque estos no afectasen a nuestra integridad). Ahora las fake news online podrían ser un problema mayor de lo que ya es.

¿Por qué? Por una IA, obviamente. Pero esta ha sido entrenada para generar texto automático, de tal forma que puede crear textos falsos con una calidad y fidelidad casi perfectas. Y por motivos obvios esto puede resultar en un problema.

Esta IA es capaz de crear su propio texto

Dejando a un lado el hecho de que esto podría quitarnos el trabajo, lo cierto es que la principal virtud de esta IA no son las fake news online. Esta inteligencia artificial, como decimos, es capaz de generar texto por sí sola, y además es capaz de crear textos completamente falsos que son capaces de hacerse pasar por noticias auténticas. La IA ha sido creada por OpenIA, una de las empresas del ya conocido en Omicrono Elon Musk.

Esto ya se ha probado, ya que Alex Hern, de The Guardian, usó el sistema que creó OpenIA para crear texto político en un artículo. Este sistema es capaz de generar texto a partir de sólo una línea, por lo que a Hern le bastó con poner un titular y ella sola se encargó del resto. Por cierto, el sistema no es de código libre precisamente porque se teme que se usaría para crear una infinidad de noticias falsas y críticas negativas (o positivas). Este sistema se llama GPT2.

El artículo de Alex Hern en The Guardian

El artículo no tiene desperdicio. Esta IA pudo generar citas del líder laborista, Jeremy Corbyn y otras no sólo de Theresa May, sino de un hipotético representante de la por ahora primer ministra británica. Según el portavoz falso: “la primer ministra ha dejado absolutamente en claro que su intención es salir de la UE tan pronto como sea posible y que estará bajo su mandato de negociación como se confirmó en el discurso de la Reina la semana pasada”.

Hern de hecho siguió jugando pero esta vez, de forma muy ingeniosa, con 1984 de George Orwell.Le introdujo una línea de la famosa novela y la IA se puso creativa, concretamente, este: “Fue un día brillante y frío en abril, y los relojes dieron las trece”. Lo que escribió la IA fue lo siguiente:

“Estaba en mi auto camino a un nuevo trabajo en Seattle. Ingresé la gasolina, introduje la llave y luego la dejé correr. Me imaginé cómo sería el día. Dentro de cien años. En 2045, fui profesor en alguna escuela en una zona pobre de la China rural. Comencé con la historia china y la historia de la ciencia “. Cautivador.

Según El director de investigación de OpenAI, Dario Amodei, el entrenamiento a esta IA ha sido extenso. Esta se capacitó leyendo aproximadamente 10 millones de artículos, que fueron seleccionados mediante el rastreo de Reddit. Si el artículo tenía más de 3 votos positivos, se daba por bueno.

Siendo totalmente justos, esta IA por ahora es capaz de generar texto de una forma brutal, y no está pensada para las fake news. El problema es que si esta tecnología, de cualquier forma, llega al público mayoritario Internet se podría inundar de noticias falsas con esta inteligencia artificial. Esperemos que no pase, pero sin duda un futuro en el que las IAs se encarguen de la información nos da miedo, y bastante.

Fuente