[13/03/2023] Los modelos generativos de IA como ChatGPT son tan sorprendentemente buenos que algunos afirman que las IA no sólo son iguales que los humanos, sino que a menudo son más inteligentes. Crean hermosas obras de arte en una vertiginosa variedad de estilos. Producen textos llenos de detalles, ideas y conocimientos. Los artefactos generados son tan variados, tan aparentemente únicos, que cuesta creer que procedan de una máquina. Estamos empezando a descubrir todo lo que puede hacer la IA generativa.
A algunos observadores les gusta pensar que estas nuevas IA han cruzado por fin el umbral de la prueba de Turing. Otros creen que el umbral no se ha superado suavemente, sino que ha volado en pedazos. Este arte es tan bueno que, seguramente, otra hornada de humanos se dirige ya a la cola del paro.
[Reciba lo último de CIO Perú suscribiéndose a nuestro newsletter semanal]
Pero una vez que la sensación de asombro se desvanece, también lo hace el poder de estrella en bruto de la IA generativa. Algunos observadores se han aficionado a hacer preguntas de la forma adecuada para que las máquinas inteligentes escupan algo estúpido o incorrecto. Algunos despliegan las viejas bombas lógicas populares en las clases de arte de la escuela primaria, como pedir una foto del sol por la noche o de un oso polar en una tormenta de nieve. Otros producen peticiones extrañas que muestran los límites de la conciencia contextual de la IA, también conocida como sentido común. Quienes lo deseen pueden contar las formas en que falla la IA generativa.
He aquí 10 desventajas y defectos de la IA generativa. Puede que esta lista parezca un sarcasmo, el garabato celoso de un escritor que se arriesga a perder trabajo si se permite que las máquinas tomen el relevo. Llámenme un pequeño humano que anima al equipo humano, que espera que John Henry siga venciendo al taladro de vapor. Pero ¿no deberíamos estar todos un poco preocupados?
Plagio
Cuando los modelos generativos de IA como DALL-E y ChatGPT crean, en realidad sólo están creando nuevos patrones a partir de los millones de ejemplos de su conjunto de entrenamiento. Los resultados son una síntesis de cortar y pegar extraída de varias fuentes, lo que se conoce como plagio cuando lo hacen los humanos.
Claro que los humanos también aprenden por imitación, pero en algunos casos, el préstamo es tan obvio que pondría sobre aviso a un profesor de primaria. Estos contenidos generados por la IA consisten en grandes bloques de texto que se presentan más o menos textualmente. A veces, sin embargo, se mezclan o sintetizan tanto que incluso un grupo de profesores universitarios tendría problemas para detectar la fuente. En cualquier caso, lo que falta es singularidad. A pesar de su brillo, estas máquinas no son capaces de producir nada realmente nuevo.
Derechos de autor
Aunque el plagio es un problema que afecta sobre todo a las escuelas, la ley de derechos de autor se aplica al mercado. Cuando un ser humano pellizca el trabajo de otro, se arriesga a ser llevado ante un tribunal que podría imponerle multas millonarias. Pero ¿qué ocurre con la IA? ¿Se le aplican las mismas normas?
La legislación sobre derechos de autor es un tema complicado, y la situación jurídica de la IA generativa tardará años en resolverse. Pero recuerde esto: cuando las IA empiecen a producir trabajos que parezcan lo bastante buenos como para poner a los humanos en la cola del paro, algunos de esos humanos seguramente dedicarán su nuevo tiempo libre a presentar demandas.
Trabajo no remunerado
El plagio y los derechos de autor no son las únicas cuestiones jurídicas que plantea la IA generativa. Los abogados ya están ideando nuevas cuestiones éticas para los litigios. Por ejemplo, ¿debe una empresa que fabrica un programa de dibujo recopilar datos sobre el comportamiento del usuario humano y utilizarlos para entrenar a la IA? ¿Debe compensarse a los humanos por ese uso del trabajo creativo? Gran parte del éxito de la actual generación de IA se debe al acceso a los datos. Entonces, ¿qué ocurre cuando las personas que generan los datos quieren una parte de la acción? ¿Qué es justo? ¿Qué se considerará legal?
La información no es conocimiento
Las IA son especialmente buenas imitando el tipo de inteligencia que tarda años en desarrollarse en los seres humanos. Cuando un erudito humano es capaz de presentar a un oscuro artista del siglo XVII o escribir nueva música en una estructura tonal renacentista casi olvidada, tenemos buenas razones para estar impresionados. Sabemos que han hecho falta años de estudio para desarrollar esa profundidad de conocimientos. Cuando una IA hace estas mismas cosas con sólo unos meses de entrenamiento, los resultados pueden ser deslumbrantemente precisos y correctos, pero falta algo.
Si una máquina bien entrenada puede encontrar el recibo antiguo correcto en una caja de zapatos digital llena de miles de millones de registros, también puede aprender todo lo que hay que saber sobre una poetisa como Aphra Behn. Incluso podría creer que las máquinas están hechas para descifrar el significado de los jeroglíficos mayas. Puede parecer que las IA imitan el lado lúdico e imprevisible de la creatividad humana, pero en realidad no lo consiguen. La imprevisibilidad, por su parte, es lo que impulsa la innovación creativa. Industrias como la moda no sólo son adictas al cambio, sino que se definen por él. En realidad, la inteligencia artificial tiene su lugar, pero también lo tiene la inteligencia humana.
Estancamiento intelectual
Hablando de inteligencia, las IA son intrínsecamente mecánicas y se basan en reglas. Una vez que una inteligencia artificial ha procesado un conjunto de datos de entrenamiento, crea un modelo y ese modelo no cambia realmente. Algunos ingenieros y científicos de datos imaginan un reentrenamiento gradual de los modelos de IA a lo largo del tiempo, para que las máquinas puedan aprender a adaptarse. Pero, en general, la idea es crear un conjunto complejo de neuronas que codifiquen determinados conocimientos de forma fija. La constancia tiene su lugar y puede funcionar en determinados sectores. El peligro de la IA es que se quede atrapada para siempre en el espíritu de la época de sus datos de entrenamiento. ¿Qué ocurrirá cuando los humanos seamos tan dependientes de la IA generativa que ya no podamos producir nuevo material para los modelos de entrenamiento?
Privacidad y seguridad
Los datos de entrenamiento de las IA tienen que venir de algún sitio y no siempre estamos seguros de qué es lo que se queda dentro de las redes neuronales. ¿Y si las IA filtran información personal de sus datos de entrenamiento? Para empeorar las cosas, bloquear las IA es mucho más difícil porque están diseñadas para ser muy flexibles. Una base de datos relacional puede limitar el acceso a una tabla concreta con información personal. Una IA, sin embargo, puede ser consultada de docenas de maneras diferentes. Los atacantes aprenderán rápidamente a hacer las preguntas adecuadas, de la manera correcta, para obtener los datos confidenciales que desean. Por ejemplo, supongamos que la latitud y la longitud de un activo concreto están bloqueadas. Un atacante astuto podría preguntar por el momento exacto en que sale el sol durante varias semanas en ese lugar. Una IA obediente intentará responder. Enseñar a una IA a proteger datos privados es algo que aún no comprendemos.
Sesgo no detectado
Incluso los primeros programadores de mainframe comprendieron el núcleo del problema con las computadoras cuando acuñaron el acrónimo GIGO o "basura dentro, basura fuera". Muchos de los problemas de las IA se deben a la escasez de datos de entrenamiento. Si el conjunto de datos es impreciso o sesgado, los resultados lo reflejarán.
El hardware que constituye el núcleo de la IA generativa puede ser tan lógico como Spock, pero los humanos que construyen y entrenan las máquinas no lo son. Se ha demostrado que las opiniones prejuiciosas y el partidismo se cuelan en los modelos de IA. Tal vez alguien utilizó datos sesgados para crear el modelo. Tal vez se añadieron anulaciones para impedir que el modelo respondiera a determinadas preguntas candentes. Tal vez introdujeron respuestas preestablecidas, que luego resultan difíciles de detectar. Los humanos hemos encontrado muchas formas de garantizar que las IA sean excelentes vehículos para nuestras nocivas creencias.
La estupidez de las máquinas
Es fácil perdonar que los modelos de IA cometan errores porque hacen muchas otras cosas bien. Lo que ocurre es que muchos de esos errores son difíciles de prever porque las IA piensan de forma distinta a los humanos. Por ejemplo, muchos usuarios de funciones de conversión de texto en imagen han descubierto que las IA se equivocan en cosas bastante sencillas, como contar. Los humanos aprendemos aritmética básica en la escuela primaria, y luego utilizamos esta habilidad de formas muy diversas. Si le pedimos a un niño de 10 años que dibuje un pulpo, casi seguro que se asegurará de que tiene ocho patas. Las versiones actuales de las IA tienden a fracasar cuando se trata de usos abstractos y contextuales de las matemáticas. Esto podría cambiar fácilmente si los creadores de modelos dedican algo de atención a este lapsus, pero habrá otros. La inteligencia de las máquinas es diferente de la inteligencia humana y eso significa que la estupidez de las máquinas también será diferente.
La credulidad humana
A veces, sin darnos cuenta, los humanos tendemos a llenar las lagunas de la inteligencia de la IA. Rellenamos la información que falta o interpolamos las respuestas. Si la IA nos dice que Enrique VIII fue el rey que mató a sus esposas, no lo cuestionamos porque no conocemos esa historia. Simplemente asumimos que la IA es correcta, de la misma manera que lo hacemos cuando un presentador carismático agita las manos. Si una afirmación se hace con confianza, la mente humana tiende a aceptarla como cierta y correcta.
El problema más complicado para los usuarios de IA generativa es saber cuándo la IA se equivoca. Las máquinas no pueden mentir como los humanos, pero eso las hace aún más peligrosas. Pueden producir párrafos de datos perfectamente precisos y luego desviarse hacia la especulación, o incluso la calumnia descarada, sin que nadie sepa que ha sucedido. Los vendedores de coches de segunda mano o los jugadores de póquer suelen saber cuándo están mintiendo, y la mayoría tienen un chivato que expone sus calumnias; las IA no.
Abundancia infinita
Los contenidos digitales son infinitamente reproducibles, lo que ya ha puesto a prueba muchos de los modelos económicos basados en la escasez. Las IA generativas van a romper aún más esos modelos. La IA generativa dejará sin trabajo a algunos escritores y artistas; también pone patas arriba muchas de las reglas económicas por las que todos nos regimos. ¿Funcionarán los contenidos con publicidad cuando tanto los anuncios como los contenidos puedan recombinarse y regenerarse sin fin? ¿Se convertirá la parte gratuita de Internet en un mundo de robots que hacen clic en los anuncios de las páginas web, todo ello creado y reproducido infinitamente por IA generativas?
Una abundancia tan fácil podría socavar todos los rincones de la economía. ¿Seguirá la gente pagando por fichas no fungibles si pueden copiarse para siempre? Si hacer arte es tan fácil, ¿seguirá siendo respetado? ¿Seguirá siendo especial? ¿Le importará a alguien si no es especial? ¿Perderá todo valor cuando todo se dé por sentado? ¿A esto se refería Shakespeare cuando hablaba de las hondas y flechas de la escandalosa fortuna? No intentemos responder nosotros mismos. Preguntémosle a una IA generativa por una respuesta que será divertida, extraña y, en última instancia, misteriosamente atrapada en algún mundo subterráneo entre el bien y el mal.
Basado en el artículo de Peter Wayner (InfoWorld) y editado por CIO Perú
Peter Wayner es autor de más de 16 libros sobre diversos temas, como software de código abierto ("Free for All"), coches autónomos ("Future Ride"), computación con privacidad mejorada ("Translucent Databases"), transacciones digitales ("Digital Cash") y esteganografía ("Disappearing Cryptography").