Los estudiantes han empezado a utilizar ChatGPT para hacer los deberes de clase, pero OpenAI ha lanzado un detector de texto generado por inteligencia artificial (IA). Se trata de una herramienta que, aunque está lejos de ser perfecta, podría convertirse en un valioso recurso para los profesores.
Este movimiento de la compañía dirigida por Sam Altman se produce en medio de una creciente preocupación en torno al chatbot conversacional. Algunas escuelas y universidades ya lo han prohibido, y se han convertido en el epicentro de un debate sobre los actuales modelos de educación.
El detector de ChatGPT de los creadores de ChatGPT
Uno de los desafíos que se avecina sobre el sistema educativo, al menos de momento, es encontrar la forma de detectar texto generado por IA. No basta con prohibirlo. La solución de los creadores de ChatGPT se suma a otras que han surgido en este último tiempo para abordar este importante reto.
OpenAI advierte que, siempre hablando del idioma inglés, identifica correctamente el 26 % del texto escrito por IA. Asimismo, etiqueta incorrectamente como escrito por IA el texto escrito por humanos en un 9%. Es decir, se trata de una herramienta que no es infalible.
Ahora bien, un aspecto positivo de todo esto es que el detector está abierto al público y puede ser utilizado gratuitamente. Para ponerlo a prueba simplemente se debe ingresar en platform.openai.com/ai-text-classifier/, pegar el texto deseado y presionar en ‘Submit’. Después de analizarlo, el clasificador arrojará un resultado.
Los resultados se clasificarán en relación a qué tan probable es que el texto haya sido generado por una IA. De esta forma, el usuarios se encontrarán con varias opciones: muy improbable, poco probable, poco claro o posible.
Ademas, es importante tener en cuenta que el detector necesita un mínimo de 1.000 palabras para hacer su trabajo y que todavía no está entrenado para detectar texto coescrito por humanos. Es decir, el análisis se hace teniendo en cuenta texto completamente laborado por humanos o por una IA.
Si te preguntas cómo han hecho este detector. A grandes rasgos, OpenAI ha entrenado un modelo de lenguaje utilizando conjuntos de datos con texto generado por inteligencia artificial y por humanos. En el caso de este último, el dataset provino de tres fuentes: de Wikipedia, de WebText y de demostraciones de InstructGPT.
Imágenes: OpenAI | Captura de pantalla
En Xataka: Las empresas con más patentes de IA son precisamente las que menos ruido están haciendo: las chinas
Ver 10 comentarios
10 comentarios
xaff
Curiosamente me sale "possibly AI-generated" cuando le pongo los 4 primeros párrafos de este artículo. El mismo resultado que el texto de IA de ejemplo propuesto por la propia herramienta.
Redbreake
Tal y como indico el ceo de openia lo van a intentar aunque saben que es una empresa imposible.
tecnoman
Sacarán otra para que no las detecte.
Busindre
He generado una parrafada sin sentido...
Mensaje de texto
"Según los últimos estudios consultados, se puede llegar a la afirmación de que el contenido explícito del tema a tratar, se confunde con alegaciones de terceros con el fin de influir positivamente en el argumentario mencionado.
No obstante merece especial atención el manifiesto otorgado por la IDAE, a la interpretación no evaluada de la teoría antes expuesta.
Todo ello sin menoscabo alguno de las diferentes tendencias de opinión respecto a la cuestión planteada, que por otro lado exime al ponente de la misma, de su completa publicación.
No se pretende con ello que las opiniones al respecto, sean especialmente tenidas en cuenta, al fin y al cabo son un ejercicio de simple observación y están lejos de pretender estar sobre las demás.
Así mismo, todos los que de una u otra manera han colaborado en la redacción del anterior manifiesto, son en su totalidad partidarios de llevar a cabo un estudio más elaborado, con el fin de eliminar las pocas dudas que que éste plantea. Queda claro pues."
Al enviar contenido, usted acepta nuestros Términos de uso y Política de privacidad. Asegúrese de tener los derechos adecuados sobre el contenido antes de usar el clasificador de texto AI.
Respuesta:
El clasificador considera que el texto probablemente haya sido generado por IA.
Busindre
Los diccionarios incluyen palabras inexistentes y su significado, para detectar ser copiados por por terceros.
Algo parecido se podría implementar en este tipo de servicios de IA.
Usuario desactivado
Con solo poner esto de pago y no ChatGPT se forran si las universidades quieren pillar a los alumnos y las empresas a sus empleados.
silverium
Conforme la IA sea más natural y más indistinguible de texto humano, ya que se entrena con textos de IN (inteligencia natural), esos límites cada vez serán más difusos, y en teoría, debería de no poder distinguirse.
Ese es el objetivo de la IA, el parecer una IN.
Yo creo que dentro de muy poco, podremos especificar el nivel cultural del texto generado, para que así, le podamos pedir "escribe un texto sobre los bosques como si fueses un estudiante de segundo de primaria", y nos incluirá un buen número de fallos gramáticos y ortográficos