algoritmos generativos de ChatGPT

Espiral de algoritmos generativos erróneos

A pesar que las visitas de ChatGPT comienzan a caer por primera vez desde su lanzamiento (con un 10% menos de visitas a nivel mundial en junio), empiezan a aumentar los casos de AI-spam, es decir, páginas en internet escritas mediante algoritmos generativos.

Ya de por sí, la situación estaba deteriorada: las personas se dedicaban a copiar, mezclar y pegar a otras páginas con el fin de generar un flujo constante de contenidos destinados a indexar y a albergar anuncios, o a convertirse en generadores de enlaces simplemente. Ahora, la llegada de los algoritmos generativos promete llevar esta situación al extremo, degradando enormemente la red mundial.

Pero es importante determinar: ¿quién decide qué páginas son seleccionadas para alimentar los algoritmos generativos?

Estamos observando como el lanzamiento de ChatGPT está comenzando a llenar la web de contenidos basura generados automáticamente. De no prestar atención a los criterios de entrenamiento de esos algoritmos, pronto empezarán a alimentarse de los mismos contenidos que han generado, cayendo en un ciclo de retroalimentación muy negativo, pues da pie a contenidos erróneos porque las primeras páginas que sirvieron en el entrenamiento del algoritmo eran erróneas o inexactas.

Por poner un ejemplo, algunos profesores de Física alertan de que las respuestas de ChatGPT en su área son no pocas veces incorrectas y confunden a sus alumnos. Esos errores responden claramente, afirman ellos, a una mala selección de los textos de entrenamiento. Si cada vez más personas confían en ChatGPT y en sus errores, y además crean contenido con ellos, terminaremos por asumir y creer tales errores,  como de hecho ya ocurre con buscadores y redes sociales que impulsan «verdades por consenso».

La regulación no debería controlar el desarrollo tecnológico, sino los usos de esos desarrollos: los algoritmos generativos pueden ser muy interesantes, pero usarlos para llenar páginas con contenidos generados automáticamente debería ser una actividad ilegal. Como debería serlo también el utilizar esos algoritmos para generar publicidad personalizada, una actividad que no responde a un consenso social sobre los límites que debería tener la actividad publicitaria.

Lo que nos espera, se seguir así, será como mirarse en un espejo cada vez más roto, en absoluto la imagen que esperábamos encontrar.

Fuente: https://bit.ly/46EiOLT

Related posts