Las herramientas de inteligencia artificial están cambiando por completo la forma en la que utilizamos Internet, trabajamos, estudiamos y nos comunicamos. Teniendo en cuenta el potencial de modelos de IA como los de OpenAI, muchos se preguntan cómo detectar textos generados por inteligencia artificial.
La respuesta es que se trata de algo muy complicado. Hasta el momento, los diferentes esfuerzos para detectar textos redactados por modelos de inteligencia artificial no han dado sus frutos. De hecho, la propia OpenAI cerró a mediados del año pasado su detector de textos escritos por IA por su baja precisión. Ahora, todo apunta a que OpenAI ha desarrollado un sistema capaz de detectar con precisión los textos generados por ChatGPT.
El sistema de OpenAI parece ser extremadamente preciso en la detección de textos generados por ChatGPT
Según una exclusiva publicada en The Wall Street Journal, OpenAI ha desarrollado una herramienta que permitiría detectar textos redactados por ChatGPT con una precisión sorprendente. Al parecer, la herramienta sería capaz de identificar con un 99,9% de precisión los ensayos o trabajos de investigación en los que se haya utilizado ChatGPT.
OpenAI lleva debatiendo internamente si lanzar esta herramienta o no desde hace alrededor de dos años. De hecho, según fuentes relacionadas con el asunto la herramienta está lista para el lanzamiento desde hace un año. A pesar de ello, la compañía no tiene claro que lanzar este detector sea lo más adecuado.
Al parecer, la tecnología desarrollada por OpenAI consiste en el uso de un sistema de marcas de agua en los textos escritos por ChatGPT. Posteriormente, OpenAI utilizaría una herramienta capaz de detectar estas marcas de agua e identificar casi a la perfección los textos escritos por ChatGPT.
El sistema en el que trabaja la compañía se encarga de realizar pequeños cambios en la forma en la que ChatGPT selecciona las palabras a utilizar. Este patrón sería la marca que permitiría desvelar que un texto se ha redactado usando la inteligencia artificial. Teniendo esto en cuenta, solo funciona con ChatGPT.
OpenAI ha confirmado a TechCrunch que la compañía está investigando el uso del método de marcas de agua descrito en The Wall Street Journal. Aun así, afirma que se trata de un asunto complejo y muestra preocupación por el probable impacto en el ecosistema en caso de lanzar esta herramienta.
Uno de los riesgos que la compañía está sopesando como parte de su investigación es que el uso de las marcas de agua podría afectar de forma negativa a determinados grupos de usuarios. En concreto, OpenAI afirma que podría estigmatizar el uso de la IA como herramienta de escritura para los hablantes de inglés no nativos.
OpenAI ha actualizado un artículo publicado originalmente en mayo con el objetivo de ofrecer más información relacionada con el asunto. En el artículo, la compañía explica que el método de las marcas de agua ha demostrado ser muy efectivo incluso en los casos en los que se modifica o parafrasea el texto generado por ChatGPT.
Aun así, las pruebas llevadas a cabo demuestran que el método no es tan efectivo si se utilizan sistemas de traducción, se utiliza otro modelo de inteligencia artificial para reformular el texto o se le pide al modelo que inserte un carácter especial entre cada palabra que posteriormente borraríamos manualmente.
Vía | The Wall Street Journal
Imagen de portada | Solen Feyissa (Unsplash)
En Xataka Móvil | WhatsApp se reinventa con Meta AI: todo lo que puedes hacer con esta IA
Ver 0 comentarios