En estos meses hemos oído y leído como ChatGPT plantea el fin de los deberes de toda la vida. Los alumnos pueden utilizar la herramienta para redactar trabajos y completar tareas impuestas en clase, y eso preocupa cada vez más en el entorno académico. Lo que ha ocurrido estos días es distinto, porque quien ha usado ChatGPT no han sido los alumnos, sino un profesor. El resultado, por cierto, ha sido desastroso.
Voy a corregir vuestros trabajos con ChatGPT. Jared Mumm, profesor de la Universidad de Texas, informó recientemente a sus estudiantes de que había usado ChatGPT para comprobar si sus trabajos para su asignatura habían sido escritos por una máquina. En un mensaje de Reddit que se ha hecho viral el novio de una de las alumnas de ese curso publicaba el aviso del profesor, que abusaba de que ChatGPT "me dirá si el programa generó el contenido [de vuestros trabajos]".
"Si habéis usado IA, estáis suspensos". Como indica The Register, en el mensaje Mumm explicaba cómo haría la prueba con los tres trabajos finales de sus alumnos y pasaría esa prueba dos veces. Si ChatGPT detectaba que los textos habían sido generados por este modelo, "suspendería ese trabajo". Tras hacerlo, comunicó a sus alumnos que "voy a calificar a todos en esta clase con una X". Varios de sus estudiantes afirmaron que después les dijo a varios de ellos que "no voy a calificar mierda [generada por] IA". Esa letra "X" significa que el curso no se ha completado, y también sirve como medida temporal para investigar el problema.
ChatGPT no sirve para detectar copias. Este profesor fue introduciendo los textos de los alumnos en ChatGPT y luego preguntó a este modelo de IA si ese texto había sido escrito por el propio ChatGPT. El problema es que ChatGPT no está hecho para detectar contenido generado por IA (ni por sí mismo). Hay sistemas que tratan de detectar contenidos generados por IA como Winston AI o Content at Scale, pero ChatGPT no puede hacerlo. Un estudio reciente de la Universidad de Maryland revela que detectar texto generado por una IA es muy difícil y en el futuro probablemente sea imposible.
Investigación en marcha. Algunos estudiantes ya han sido calificados correctamente y han sido "absueltos" de la acusación de haber copiado, mientras que otros han preferido enviar de nuevo sus ensayos para ser calificados. Al menos uno de esos alumnos ha admitido haber usado ChatGPT para sus trabajos. La institución ha publicado un comunicado en el que revelan que "a ningún alumno se le ha suspendido ni se le ha impedido graduarse por este problema". También cometaban cómo el incidente se está investigando de cara a desarrollar medidas para evitar "el mal uso de la tecnología de IA en clase".
Situación (más o menos) resuelta. En una actualización del mensaje original se explica que "la situación está prácticamente resuelta: la universidad ha admitido a sus estudiantes que sus notas no debían haber sido suspendidas. Era algo fuera del protocolo y un uso inapropiado de ChatGPT".
Pero intentarán detectar contenidos generados por IA. Aún así en el comunicado de la universidad se especificaba cómo en esta institución se está trabajando para "adoptar herramientas de detección de IA y otros recursos para gestionar la intersección de la tecnología de IA en la educación superior. El uso de la IA en trabajos de clase es un problema cambiante que confronta con todas las instituciones académicas".
Recuerda que tenemos una lista de métodos para hacer de detector de ChatGPT
Imagen | Xataka con Midjourney
En Xataka | El identificador de IA de OpenAI tiene un problema: ellos ponen el zorro y ellos vigilan las gallinas
Ver 23 comentarios
23 comentarios
Kiskillas
Escrito por ChatGPT.
falconx
Seguro que tiene truco
ven
Y tiene todo el sentido del mundo
El Berberecho Azul
Primera regla de Webedia: nunca repasar un artículo.
Itopo
Toca aceptarlo, es la nueva realidad.
Si quieren valorar el trabajo de un alumno sin IA no queda otra que hacer examenes en vivo y en directo. Lo de mandar un trabajo para casa y esperar que no se use es tonteria.
estoy_almorzando
¿avusaba con V? Buff ...
¿Xataka que estaís haciendo?. Un repasito antes de publicar nunca va mal
yuri_primero
El problema es que internet se va a llenar de contenido poco riguroso o directamente falso. El motivo es que con una IA no cuesta generarlo, pero estas no son fiables.
Yo veo dos versiones para la web, una gratuita donde no te garantizan que lo dicho sea cierto, esta para los pobres. Otra de pago, donde el contenido será creado o supervisado por humanos.
Estos modelos funcionan bien para algunas cosas, pero su función es averiguar cual es la siguiente palabra con sentido, eso es todo.
El resultado si es espectacular y puede llevar a confusión de que entiende o incluso que piensa.
Todo esto a día de hoy, al ritmo que va esto y lo que en general nos hemos equivocado todos con la IA, ¿Quien sabe en un par de años?.
¿Os suena? "La IA, acabará con los trabajos repetitivos pero no los creativos, nunca podrá pintar una obra de arte" . DALL·E 2. Zas, en toda la boca.
liszt606
Bueno, con respecto a este tema ya he leído en Genbeta mismo cómo se debe cambiar la evaluación ante el auge de la IA, citando fuentes y verificando procesos. Lo que llamaron integración de la IA para enriquecer y validar el aprendizaje del estudiante.
Lo estoy implementando, y lo complemento con seminarios intercalados sobre la metodología de trabajo, a cada grupo y a cada estudiante. Si les solicito esto último escrito, ChatGPT lo puede resolver por ellos, aunque si les tomo pequeños seminarios entonces es el estudiante el que debe fundamentar la metodología de trabajo, ya sea si ha realizado resoluciones de casos, redacciones científicas o similares mediante análisis crítico, reflexión personal o aplicación práctica de conceptos estudiados.
Eso sí, para evaluaciones parciales y finales nada mejor que el papel.
javierverdugo
Y por qué esto es una buena noticia.
Ariasdelhoyo
Lo que tienen que hacer los profesores es cambiar de paradigma y enseñar y hacer exámenes en los que se demuestre lo que se sabe y no se vomite sobre un examen.
Que llevan con el mismo modelo desde los egipcios para acá.
alentines
Se puede ver como una herramienta pero al final se dejas que te haga la mayoría del trabajo al final no aprendes a hacerlo por cuenta propia que es lo importante en el desarrollo como estudiante, no sé en que piensa la gente.
intihuatana
Ignoro el resultado de otras IAs pero en ChatGPT, al ponerle una poesia muy definida en forma, temática y resultado, aporta resultados casi infantiles.
En otra temática sobre Hielo polar y Antártico, bajo y sobre la superficie del mar...arroja un resultado de bajada del nivel del mar por una causa y subida por otra, quedando en una subida de 5 milímetros ?, de nivel anual en los próximos 30 años.
ery23
Es cierto que ChatGPT y otros modelos de lenguaje similares no están diseñados específicamente para detectar contenido generado por IA. Su función principal es generar texto coherente y relevante en respuesta a una entrada dada. La detección de contenido generado por IA es un desafío en sí mismo, y existen otros sistemas y enfoques que se centran en esa tarea específica, como los mencionados Winston AI y Content at Scale.
En cuanto a la afirmación de que detectar texto generado por IA es difícil y puede ser imposible en el futuro, es importante destacar que el desarrollo de tecnologías avanzadas de IA es un campo en constante evolución. Si bien puede ser un desafío actualmente, es posible que en el futuro se desarrollen métodos más efectivos para detectar contenido generado por IA. La investigación en esta área continúa, y es importante estar al tanto de los avances y las limitaciones actuales de estas tecnologías.
En resumen, ChatGPT no está diseñado específicamente para detectar contenido generado por IA, y existen otros sistemas que se enfocan en esa tarea. La detección de texto generado por IA sigue siendo un desafío en la actualidad, aunque la investigación en el campo de la IA continúa avanzando.