Los estudiantes han empezado a utilizar ChatGPT para hacer los deberes de clase, pero OpenAI ha lanzado un detector de texto generado por inteligencia artificial (IA). Se trata de una herramienta que, aunque está lejos de ser perfecta, podría convertirse en un valioso recurso para los profesores.
Este movimiento de la compañía dirigida por Sam Altman se produce en medio de una creciente preocupación en torno al chatbot conversacional. Algunas escuelas y universidades ya lo han prohibido, y se han convertido en el epicentro de un debate sobre los actuales modelos de educación.
El detector de ChatGPT de los creadores de ChatGPT
Uno de los desafíos que se avecina sobre el sistema educativo, al menos de momento, es encontrar la forma de detectar texto generado por IA. No basta con prohibirlo. La solución de los creadores de ChatGPT se suma a otras que han surgido en este último tiempo para abordar este importante reto.
OpenAI advierte que, siempre hablando del idioma inglés, identifica correctamente el 26 % del texto escrito por IA. Asimismo, etiqueta incorrectamente como escrito por IA el texto escrito por humanos en un 9%. Es decir, se trata de una herramienta que no es infalible.
Ahora bien, un aspecto positivo de todo esto es que el detector está abierto al público y puede ser utilizado gratuitamente. Para ponerlo a prueba simplemente se debe ingresar en platform.openai.com/ai-text-classifier/, pegar el texto deseado y presionar en ‘Submit’. Después de analizarlo, el clasificador arrojará un resultado.
Los resultados se clasificarán en relación a qué tan probable es que el texto haya sido generado por una IA. De esta forma, el usuarios se encontrarán con varias opciones: muy improbable, poco probable, poco claro o posible.
Ademas, es importante tener en cuenta que el detector necesita un mínimo de 1.000 palabras para hacer su trabajo y que todavía no está entrenado para detectar texto coescrito por humanos. Es decir, el análisis se hace teniendo en cuenta texto completamente laborado por humanos o por una IA.
Si te preguntas cómo han hecho este detector. A grandes rasgos, OpenAI ha entrenado un modelo de lenguaje utilizando conjuntos de datos con texto generado por inteligencia artificial y por humanos. En el caso de este último, el dataset provino de tres fuentes: de Wikipedia, de WebText y de demostraciones de InstructGPT.
Imágenes: OpenAI | Captura de pantalla
En Xataka: Las empresas con más patentes de IA son precisamente las que menos ruido están haciendo: las chinas
Ver todos los comentarios en https://www.xataka.com
VER 11 Comentarios