Artículos en esta sección

¿El software Compilatio puede detectar los contenidos de Inteligencia Artificial, como ChatGPT?

Avatar
Compilatio
  • Actualización
Seguir

Hacia nuevas normas a las que debemos adaptarnos...

     La llegada de la Inteligencia Artificial a la esfera pública está sacudiendo un gran número de campos y la educación no queda excluida. La fuerte comunicación vinculada a estas herramientas acentúa la efervescencia: ¿qué profesor y alumno no ha probado aún un software como ChatGPT o DALL-E?

El auge de estas nuevas herramientas digitales, la adopción (¡cada vez más rápida!) de nuevos usos, y a veces nuevas prácticas de fraude digital, incitan a las instituciones a ser capaces de evaluar más rápidamente su importancia y su impacto.

Y cuando se constata una evolución importante, todos los actores deben adaptar "rápidamente" sus prácticas a esta nueva norma.

El software antiplagio, muy cuestionado

Nuestra posición de experto en integridad académica lleva a nuestros clientes a preguntarnos sobre todos los aspectos del "fraude digital", no sólo los relacionados con la práctica del "copiar-pegar".

Como tecnología, utilizamos la IA desde hace varios años en nuestros servicios, para detectar similitudes, en particular para definir los elementos característicos de un documento con el fin de encontrar fuentes y categorizar la importancia de las fuentes. Esta es la actividad principal de Compilatio.

Y aunque encontrar las fuentes en un texto sigue siendo importante y esencial, la cuestión también se amplía: "¿Pertenece el estilo de escritura al estudiante que dice haber hecho el trabajo? ¿El texto está escrito por un autor humano o por una IA?

Compilatio da prioridad a las nuevas necesidades de detección

       Tras el reciente interés suscitado por ChatGPT (debido al rendimiento de su versión 3), hemos puesto a su disposición un simulador para demostrar y evaluar el rendimiento de la detección de textos generados por IA mediante Compilatio.

Compilatio podrá así comercializar este servicio en un futuro próximo. Las condiciones comerciales de acceso se anunciarán más adelante.

 

       Paralelamente, proseguimos el trabajo que venimos realizando desde hace varios años sobre el uso de la IA para diversas tareas, en particular con la preparación de una funcionalidad de detección de similitudes independiente de la lengua o las palabras utilizadas, basada en el significado y la disposición de las ideas en el texto.

  • Tarea 1 : Encontrar las fuentes a partir de las cuales ChatGPT ha producido su texto.
    En este punto, estamos evaluando la eficacia de nuestra IA de detección de reformulación.

  • Tarea 2 : Reconocer el "estilo" de los autores, para responder a dos preguntas :
    - ¿Es un texto coherente con el estilo del alumno, en función de sus producciones anteriores?
    - ¿Es un texto coherente con el estilo del "autor ChatGPT3"?

Este trabajo permitirá determinar si un texto ha sido escrito parcial o totalmente por el autor anunciado, y si éste corresponde a un autor humano o a una IA...


      Evidentemente, la cuestión no puede ser puramente técnica. Hay muchas opciones que explorar en el aspecto pedagógico...

Compilatio continúa su apoyo educativo

     Nos parece esencial no esperar a estas futuras evoluciones técnicas que permitirán identificar mejor los contenidos escritos por las IA para sensibilizar. En Compilatio seguimos concediendo gran importancia a la educación, la misma que se encuentra en el centro de nuestras acciones. Debemos, en la medida de lo posible, sensibilizar y hacer comprender a los estudiantes las cuestiones de integridad y autenticidad. Debemos hacer que se atengan a una buena conducta para que disminuya la tentación de hacer trampas. Con este objetivo, hemos escrito el siguiente artículo: La guía sobre la redacción académica fantasma. 

El reto para los profesores es seguir compartiendo con los estudiantes el propósito de las tareas y las evaluaciones requeridas. Por ejemplo, en lugar de decir "Tienes que elaborar una tesis", es más apropiado decir: "Tienes que elaborar una disertación que demuestre tu capacidad para verificar información: para ello, debes incluir al menos 10 fuentes diferentes. Este resumen también mostrará tu capacidad para analizar estas diversas fuentes: por lo tanto, deberás escribir X líneas de análisis personal, con ejemplos personales también."


Todo el mundo debe tener en cuenta que la inteligencia artificial se basa en datos objetivos, pero no produce un análisis personal razonado.

  Al mismo tiempo, aumentan las reflexiones sobre cómo trabajar con estas herramientas de IA. ¿Algunas oportunidades que explorar?

"As AI tools such as ChatGPT become our everyday search and research support, and we know that students will use it regardless (in fact they are using it!), educators must consider how to cite and reference ChatGPT responses."

"We're going to have to be more prepared to have conversations with students where we ask them to explain verbally to us what their work says."

"We need to better understand the pros and cons, consider how such tools fit into professional contexts, and engage in a very serious change process with regard to how and what we assess."

"It was interesting to see that this tool could provide some particular insights that could become the starting point of something."

 

"Tal vez, la invitación está en salirnos del formato de preguntas fácticas en la clase y empezar a trabajar con habilidades superiores del pensamiento (reflexionar, fundamentar, comparar y contrastar, predecir, debatir, etc). La pregunta más importante de la clase debe ser siempre “¿qué te hace decir eso?”, es decir, ayudar a los alumnos a pensar de maneras más profundas y fomentar la metacognición.
Lo que buscamos es darles la oportunidad a los alumnos de adueñarse de sus trayectorias: que trabajen en grupos, que enriquezcan sus ideas, que revisen sus trabajos con otros, que pidan sugerencias, editen/mejoren/acorten sus producciones, los hagan más largos o los publiquen en redes (si es apropiado). Todo esto ayuda a lograr más autonomía, mayor compromiso y orgullo por sus producciones y aprendizajes. La clave: alentar a los alumnos a pensar, no simplemente a transcribir información. Necesitamos ayudar a los alumnos a poder interactuar con el contenido, a aplicarlo, a crear. A usarlo."

 

"Es importante hablar de esto ahora mismo e incluir a los estudiantes en la conversación”, afirma Fyfe. “En lugar de intentar legislar desde el principio que esto es extraño y da miedo, por lo que tenemos que cerrarlo”.

Y algunos profesores ya están adoptando programas de IA en el aula.

Piper, que dirige .txtlab, un laboratorio de investigación sobre inteligencia artificial y narración de historias, dice que ha hecho que sus alumnos analicen la escritura con IA y ha descubierto que a menudo pueden distinguir qué trabajos han sido escritos por una máquina y cuáles por un humano."

 

Artículos relacionados