Tecnología

OpenAI acaba de lanzar un algoritmo de redacción de noticias falsas aún más aterrador

Imagen para la inteligencia artificial

Por: Chris Young

OpenAI, la compañía de inteligencia artificial que fundó Elon Musk y luego renunció, acaba de lanzar una versión más poderosa de su software de escritura de texto de inteligencia artificial.

La compañía aún no lanzará su software completo, que se puede usar para escribir noticias y mensajes falsos en masa, debido al temor de que se pueda usar de forma incorrecta.

OpenAI dice que su sistema de escritura de texto es tan avanzado que puede escribir historias de noticias e incluso ficción que pasa como humano.

Un usuario puede alimentar el texto del sistema, desde unas pocas oraciones hasta páginas del mismo, y el sistema continuará ese mismo texto en un estilo humano increíblemente bien escrito, contextualmente relevante.

Sin embargo, después de lanzar su sistema original, GPT-2, en febrero, la compañía dijo que el software completo era demasiado peligroso para el público: se puso a disposición una versión más débil.

Ahora, la compañía ha anunciado que lanzó una versión de GPT-2 que es seis veces más potente.

En realidad, puede probar el último sistema público OpenAI en TalkToTransformer.com. Los resultados pueden ser inquietantemente realistas, aunque existen defectos obvios en la escritura.

Según la declaración de OpenAI, todavía hay una versión aún más poderosa de GPT-2 que la compañía aún no ha revelado.

La compañía dice que planea lanzar el modelo más poderoso dentro de unos meses, pero que tal vez no lo haga si determina que las personas están usando el nuevo GPT-2 más fuerte de manera maliciosa.

En el momento del anuncio original del lanzamiento de GPT-2 en febrero, Jack Clarke, jefe de política de OpenAI, dijo a The Guardian que «hay muchas personas que son mejores que nosotros para pensar qué puede hacer [la IA] maliciosamente».

Podría usarse, por ejemplo, para generar infinitas críticas falsas positivas o negativas, como si fueran escritas por una persona real.

Si bien OpenAI nos acerca a la dominación mundial de la IA, un grupo de investigadores de Harvard y del MIT ha estado desarrollando un método para usar la IA para combatir la IA.

Los investigadores desarrollaron un sistema, denominado GLTR, que utiliza un algoritmo para rastrear la probabilidad de que un pasaje haya sido escrito por AI o no.

Será interesante ver si GLTR alguna vez se encuentra con la versión más fuerte de GPT-2, si alguna vez se lanza al público, eso es. Las guerras de IA pueden estar sobre nosotros.

Fuente: Interesting Engineering

También te puede interesar