El objetivo de Google está más cerca: Controlar la información del mundo

¿Sabías que el objetivo de Google es Controlar la Información del mundo? No es broma. Si has leído sobre OKRs o cómo Google establece objetivos, sabrás que es su objetivo principal o misión como empresa.

Empezamos por el error

Gemini, muéstrame la imagen de un Papa... y magia: Nos saca un Papa Negro y otra que es una mujer negra. En IA esto se llama Sesgo.

Y una de las razones por las que Google se ha apresurado a darle al botón rojo y apagar Gemini va más allá de la simple generación de contenido erróneo. A nivel de producto es un error grande pero es que no sabemos, ni sabremos hasta donde podía haber llegado si lo dejan abierto.

Mi punto de vista

Los grandes sesgan la información

El error con Gemini me trae aún más preocupación sobre la acumulación de poder, riqueza e influencia de las grandes corporaciones en cualquier sector de la sociedad. Controlar la información es algo muy poderoso y que no se nos quite de la cabeza que está en el gen de Google.

El incidente con Gemini no es solo un error tecnológico, es un reflejo de cómo el sesgo y la manipulación pueden infiltrarse en los sistemas de IA. En un mundo donde la información es poder, la capacidad de influir en lo que se ve, lee o escucha es y se cree es inmensamente poderosa.

Google (y en general las bigtechs, pero hablamos de Google), con su vasta base de datos, capacidades computacionales (no olvidemos que ahora mismo la IA requiere datos y mucha computación al alcance de muy pocos) y dinero, se está posicionado de manera única para acercarse a su objetivo declarado de organizar la información mundial.

Sin embargo, este objetivo plantea interrogantes éticos significativos: ¿Quién decide qué información se prioriza? ¿Cómo se manejan los sesgos inherentes?

El auge de la IA en la generación de información

Estamos entrando en una era donde gran parte de la información que consumimos será generada o filtrada por IA.

Los LLMs han sido entrenados con la información que nosotros hemos generado durante años. Pero ¿qué pasará cuando la mayoría de la información sea generada con IA?

Esto plantea desafíos sin precedentes en términos de veracidad, sesgo y transparencia. ¿Cómo sabremos si lo que leemos es una representación precisa de los hechos o una narrativa sesgada generada por un algoritmo?

La preocupación por el consumo acrítico de información

Mi mayor temor radica en la actitud pasiva de muchos consumidores de información. En una época donde el bombardeo de información es constante, la facilidad con la que se acepta la información sin cuestionarla o contrastarla es alarmante.

Esta tendencia es especialmente preocupante en el contexto de la IA, donde la sofisticación de la tecnología puede hacer que sea aún más difícil discernir entre lo real y lo fabricado.

Ponte en situación: vas en el metro y miras a tu alrededor ¿Cuánta gente está con auriculares o con la cabeza inclinada hacia abajo mirando el móvil? de ese 90% o más de gente que está en esa situación ¿cuántos son vulnerables de que la información recibida no sea real?

Mi cabeza directamente se va a gente joven de 14 o 15 años aún por “moldear”.

Y con eso podríamos empezar a abrir el melón de la educación en estas tecnologías. Realmente no me he metido a fondo a ver cómo el sistema educativo está tomando todo esto. Pero me imagino que lo estará haciendo de la misma forma que el blockchain, o la educación financiera.

Grillos suenan. Cri, cri cri

Conclusión

Google ha vestido todo esto como un mero error de tecnología, un bug, que van a arreglar pero como he expuesto anteriormente, me da un poco de miedo del poder de estas grandes de sesgar la información. Seamos realistas, se nos olvidará pronto. Nos acostumbraremos y utilizarn sus mejores armas para ocultar lo menos bueno.

El incidente con Gemini y su apresurado apagón nos da una visión más clara de las potenciales implicaciones de la IA en la gestión y control de la información. Es un recordatorio de que, aunque la tecnología avanza a pasos agigantados, aún enfrenta desafíos significativos, especialmente en términos de ética y sesgo. Por no entrar en la seguridad.

La IA tiene el potencial de ser una herramienta neutral y poderosa, pero su desarrollo y uso deben ser supervisados cuidadosamente para evitar la manipulación y el abuso.

Aun recuerdo cuando mi pareja me regaló un Amazon Alexa y le dije: "Esto me da miedo, nos escuchan, nos vigilan". Ahora tengo la casa con 4 Alexas y ella me lo recuerda constantemente. Nos acostumbramos.

Consejos

No soy quien para dar consejos pero aquí comento trucos que hago yo para mantenerme informado de manera segura (o eso creo):

1. Cuando compro un libro. Ahora más que nunca leo sobre el autor y los comentarios. Antes no dedicaba tanto tiempo. Investigo mucho al autor. Hay basura ahí fuera.
2. Cuestiona constantemente. No aceptes nunca la información como buena. Da igual la fuente. Enseña a tu cerebro. Todos sesgamos, cada uno de nosotros lo hacemos, es automático. Si la IA la entrenan los humanos ¿por qué esta no iba a añadir sesgos? Si algo te interesa realmente profundiza.
3. Escoge. Esto ha sido lo más complicado para mi. Newsletters, Twitter (X), Linkedin, Papers, etc. Es imposible consumir toda esa información de a una. Yo he aprendido a escoger. Elijo una que me interesa y profundizo. De hecho esta entrada y una seria de publicaciones en Linkedin han sido fruto de la noticia de que Google apaga Gemini que he recibido en uno de los no se cuantos Newsletters en mi email.