El fin del mundo, ¿será que si?

Un nuevo apocalipsis se asoma a las puertas de la humanidad, al parecer esta herramienta que muchos usamos a diario y con la que jugamos un poco, será la razón por la que tendremos catástrofes y posiblemente el fin de nuestra historia.

¿Será que sí? Para mi este tipo de tecnologías como: el internet, la inteligencia artificial, los mensajes de texto y ¡por dios! el fax, son como una especie de magia que me parece increíble.

Es difícil imaginar como algo que puedes literalmente desenchufar nos puede matar a todos.

Sin embargo, ante la cantidad de noticias y testimonios de ex empleados de las compañías IA, y sobre todo la noticia de sus dueños de desacelerar la tecnología, decidí salir de la duda e investigar un poco para pasar de una sensación de nerviosismo desconocido a certezas comestibles.

Aunque como humanidad hacemos un gran trabajo en retar constantemente nuestra subsistencia, hay que reconocer que hemos vivido varios “fin del mundo” a través de nuestra historia y aquí seguimos. Quise saber si este era unos de esos, por eso empecé por la fuente: fui a Chat Gpt y pregunté cuales son esos riesgos a corto, mediano y largo plazo. Los escenarios están organizados desde lo que tiene evidencia y está ocurriendo ahora, y lo que es especulativo y a futuro.

• Errores de la IA, que meta la pata haciendo tareas importantes. Autonomía sin los controles suficientes, como enviar un mensaje equivocado a toda la base de datos de clientes, o en medicina hacer un mal diagnóstico.

• Fraude, el uso de las herramientas para engañar y robar. Pueden crear imágenes falsas, crear grabaciones… Ya está pasando.

• Noticias falsas, el uso de información para manipular la opinión de las personas. Una amenaza peligrosa, pero no totalmente desconocida, a través de las redes ya hemos visto como se pueden mover masas hacia una posición política. Uno de los riesgos es que empecemos a dudar hasta de las noticias verdaderas.

• Pérdida de la privacidad, vigilancia y discriminación. No nos digamos mentiras, le contamos cosas que no le contamos a NADIE, por lo tanto, sabe más que cualquier amigo o familiar y esto en las manos equivocadas puede utilizarse para dividir, rechazar.

• Concentración de la riqueza, esta me pareció interesante. Cuando una empresa crece, aumenta el número de empleados. Con IA vemos que muchos de esos empleos están desapareciendo y pueden reemplazar personas con agentes, la teoría es que las empresas crecerán económicamente sin necesidad de contratar a más personas. Esto impacta el empleo y enriquece solo a unos pocos.

• Pérdida del control sobre la IA. Una IA completamente autónoma que no podamos detener, se aumenta la posibilidad de cometer errores que puedan tener repercusiones económicas para empresas y gobiernos.

• El fin de la humanidad, una IA totalmente autónoma, que pueda planear y ejecutar tareas relacionadas con los recursos de los cuáles subsistimos como humanos. En pocas palabras que nos quiera destruir. Esta es especulativa y en mi opinión muy parecida a las películas que vemos sobre del fin del mundo.

También escuché la entrevista que le hacen a Daniel Kokotajlo (ex empleado de OpenAI) en el podcast DOAC. Aquí el panorama es un poco más oscuro y profundizan en los escenarios en los que hay graves consecuencias para la humanidad.

En resumen, uno de los riesgos más importantes es la concentración de poder en pocas personas y países que desarrollan la tecnología. Esos CEO están en una carrera por ser los primeros y según Daniel, creen que solo ellos podrán controlarla. En sus palabras: “Nadie debería tener tanto poder” (estoy de acuerdo)

Este discurso me suena similar al del desarrollo de armas nucleares. Todos aquellos que las desarrollan consideran que los demás países son “peligrosos” y no deberían tenerlas, pero si ellos mismos las desarrollan es por “seguridad”

Lo peligroso de esta carrera, es que se desarrolla sin detenerse a crear los controles necesarios para que funcione bien y sin riesgos.

Me viene a la cabeza la historia de Sudán, hasta hace poco desconocía casi todo sobre ellos, y después de una introducción en el podcast de Wiser World, llegué a la conclusión de que: Sudán es y ha sido el caldo de cultivo para todos los males de la humanidad. Hambre, injusticia, pobreza, violencia, asesinatos, corrupción… usted piense en algo malo y allá ha pasado.

Hay un ingrediente al cuál atribuyo semejante drama: la falta de educación. Son dos países donde muy pocos saben leer (Sudán del sur: 35% de la población y Sudán del norte 63%, comparado con Colombia que tiene un 96% de personas mayores de 15 años que saben leer). En niveles tan altos de analfabetismo es muy fácil caer en la manipulación y la concentración del poder, se sigue un líder por lo que dice, pero no hay como confrontar esas ideas con otras.

¿Y qué tiene que ver esto con IA? ¡Mucho!

De los riesgos que percibo en el día a día, es que la herramienta tiene la capacidad de dar una sola respuesta que en teoría resume mucha información. Pero esta respuesta está basada en qué y cómo le preguntamos. Ósea que a preguntas equivocadas, sesgadas o mal enfocadas, tendremos respuestas equivalentes.

Y lo más peligroso de todo, le creemos a ciegas. Nos quedamos con esa respuesta como si fuera una verdad absoluta y creemos que ya sabemos más que los expertos.

Hace poco, un vendedor de maquinaria industrial me contaba la dificultad que tuvo para guiar y explicar los beneficios de la tecnología en una reunión. Uno de los clientes, indicó que había hecho una investigación con IA, y fue difícil que estuviera abierto a escuchar otras versiones, estaba completamente seguro de que la versión de la IA era la única.

La educación, usar el cerebro, desarrollar habilidades nuevas, hablar otros idiomas, LEER y CUESTIONARSE, son barreras contra la injusticia y el abuso. Si no estamos aceitados, es fácil que otros tomen decisiones por nosotros sin que nos demos cuenta, esto le pasó a Sudán. Y si no estamos preparados nos pasará a todos con la IA.

Es una gran herramienta, pero no quisiera olvidar y quisiera que ustedes no olviden, que dejar de ejercitar nuestro cerebro no es una opción.  Los libros, las conversaciones, las entrevistas con expertos no se pueden acabar. La falta de posiciones contrarias a la propia es cómoda, pero peligrosa. Así nace la segregación, el rechazo a lo desconocido y la permisividad de aislar o matar lo que no encaja con nuestro marco mental.

También creo que esta es la versión de quienes trabajan en estos desarrollos, y no sé si en sus proyecciones estén contemplados la cultura, el arte, la capacidad creativa de las personas y las condiciones de muchos países que no están en esta misma carrera. Cuando oigo descripciones en las que todo está inventado y ejecutado por una máquina, me cuestiono si es cierto que adoptaremos una vida así.

Se me ocurren corrientes contrarias en las que preferiremos experiencias 100% creadas por humanos, arte, cultura, música, historias, gastronomía… He encontrado en esta red algunos haciendo la aclaración sobre sus escritos: “este texto es 100% escrito por humanos”, e inmediatamente los quiero leer.

Tendremos que ver en que termina, esto del fin de la humanidad me supera y no tengo el poder para determinar la economía, la paz, la supervivencia… Pero no quiere decir que no pueda hacer nada al respecto. Para mí, está claro que es vital seguir utilizando el cerebro.