OpenAI Classifier: qué es, cómo funciona y cómo usar este detector de textos hechos con ChatGPT

Vamos a explicarte qué es y cómo usar OpenAI AI Text Classifier, una herramienta creada para poder identificar textos escritos con inteligencia artificial, como ChatGPT. Es un detector de ChatGPT creado por los responsables la popular IA, por lo que promete ser bastante fiable para detectar textos creados con GPT y otras tecnologías de inteligencia artificial.

Se trata de una herramienta totalmente gratuita, aunque necesitarás tener una cuenta en OpenAi para poder utilizarla. Empezaremos el artículo diciéndote lo que es y su funcionamiento o las limitaciones que tiene. Y luego, terminaremos diciéndote cómo utilizarlo.

Qué es AI Text Classifier

Estamos viviendo una revolución de Inteligencia Artificial, con chatbots como ChatGPT, Google Bard o Bing Chat siendo capaces de crear todo tipo de contenido. Y entre el contenido que puedes crear, está la posibilidad de redactar deberes escolares o hacer trabajos que se supone que debe hacer un humano.

En un contexto en el que cada vez más alumnos utilizan ChatGPT para sus trabajos, los profesores y otros profesionales pueden acabar teniendo dificultades para distinguir cuando algo se ha escrito con IA. y es aquí donde entra en juego la herramienta de Open AI.

AI Text Classifier es un detector de textos creados por inteligencia artificial. Sus creadores aseguran que puede distinguir el texto que se ha creado con distintos modelos de IA para generar textos, incluyendo ChatGPT. Simplemente, pegas el texto que quieres identificar y te dirá si está hecho por IA o por humanos.

Este clasificador de textos no es totalmente fiable, aunque la empresa promete irlo mejorando. Puede dar falsos positivos, sobre todo a la hora de identificar textos de IA, por lo que siempre te dirá que ha sido probablemente creado por uno u otro, pero no afirmará nada.

Cómo funciona el OpenAI Classifier

Este clasificador es un modelo de lenguaje por Inteligencia Artificial basado en GPT, por lo que por dentro es muy parecido a ChatGPT. La diferencia es que este modelo ha sido entrenado para detectar textos escritos por IA, y distinguirlos de los creados por personas.

Para este entrenamiento, se han utilizado tanto textos creados por humanos como creados por inteligencia artificial sobre un mismo tema. Estos textos se han recopilado de diversas fuentes escritas por personas, como los mismos datos de preentrenamiento y las demostraciones humanas sobre las instrucciones enviadas a InstructGPT.

Además de esto, ha sido entrenado para poder detectar distintos modelos de lenguaje por IA, tanto los creados por la propia OpenAI como otros desarrollados por otras empresas y organizaciones. En esta herramienta, se ha ajustado el umbral de confianza para mantener baja la tasa de falsos positivos. Esto quiere decir que sólo se marca un texto como probablemente escrito por IA si el clasificador tiene mucha confianza en ello.

En esencial, lo que hace este sistema es buscar en un texto patrones de escritura que correspondan con los que suelen utilizar ChatGPT y otras IA a la hora de hablar de determinados textos. Porque a la hora de escribir una palabra detrás de otra y expresarse, las IA pueden hacerlo de forma diferente a los humanos.

En cuanto a su funcionamiento técnico, se ha hecho lo más sencillo posible. Es una web con un recuadro, y solo tienes que pegar un texto y darle al botón de analizarlo. Entonces, el clasificador analizará el contenido del texto, cómo está escrito, y te dirá si cree que ha sido generado por IA.

Límites de AI Text Classifier

Esta herramienta de clasificación de textos y detección de los que están escritos por IA tiene siete limitaciones esenciales que debes tener en cuenta. Son limitaciones que pueden convertirla en menos fiables, o sea que te las decimos a continuación:

• Tamaño del texto que se envía: Es poco fiable con textos de menos de 1.000 caracteres, por lo que es mejor comprobar esos que tengan más de esta cifra.
• No siempre fiable: A veces, el clasificador puede dar falsos negativos, y clasificar como escrito por humano un texto escrito por IA.
• Idioma de los textos: La herramienta ha sido entrenada para analizar textos en inglés, y su rendimiento baja significativamente en otros idiomas. Tampoco es fiable para código.
• Textos predecibles: No es muy fiable para textos predecibles. Por ejemplo, si hay una lista con números primos o cosas que son lógicas y que serán las mismas las escriba quien las escriba, entonces no funcionará bien.
• Texto que puede eludir el clasificador: Un atacante puede editar los textos de una manera que pueda eludir el clasificador. La herramienta puede reentrenarse en función de estos ataques, pero no siempre a tiempo.
• Textos con con temas menores: Para este clasificador se han usado conjuntos de textos de muchísimos tipos de temas importante. Sin embargo, estos clasificadores basados en redes neuronales pueden no funcionar bien con textos de temas muy diferentes a los usados.
• Textos escritos por niños: Los textos escritos por menores no siempre son fáciles de detectar como textos de humanos, ya que hay una manera de escribir muy diferente.

Cómo usar AI Text Classifier

Para usar este clasificador de texto generado por IA, tienes que ir directamente a su web oficia en la página platform.openai.com/ai-text-classifier. Aquí dentro, inicia sesión con tu cuenta de OpenAI y accederás.

Una vez estés dentro, pega el texto que quieras dentro del recuadro de Text que aparece en la página. Cuando lo hagas, pulsa en el botón de Submit que tienes justo debajo.

Y ya está, en pocos segundos la web analizará el contenido del texto, buscará los patrones similares a cómo escriben las IA, y entonces te dirá debajo en inglés si considera posible que haya sido generado por inteligencia artificial.

En Xataka Basics | 22 funciones y cosas que puedes hacer con ChatGPT para exprimir al máximo esta inteligencia artificial