DIGITALIZACIÓN: “Nos convertirá en células de un organismo mayor”, pronostica experto chileno-alemán

Esta es una nota que debería provocar debates de todo tipo, hasta teológicos. Como es larga, es ideal para ser leída el fin de semana. Pájaro Rojo no tiene posición asumida en muchos de los asuntos que plantea, ni comparte ni rechaza la fe de Martin Hilbert, aunque sigue con atención sus razonamientos. Quiere si comentar que la supuesta modernidad amarilla ha hundido a la Argentina en una sima tan profunda como la fosa de las Marinas. Repasemos: tenemos un ministro de Comunicación al que le parece una gran novedad que se puedan hacer compras por internet, una ministra de Seguridad  a la que le hackean su cuenta de Facebook, un presidente de la Corte, responsable último de las intercepciones de teléfonos que no se entera de nada (ni siquiera que la causa por el bombazo a la Embajada de Israel, a cargo de la propia Corte, sigue abierta) y un jefe de la AFI (ex SIDE, organismo ejecutor de esas escuchas) especilalizado en evasiones, retornos, coimas y sobornos y obvio testaferro del jefe de Estado, y un director de operaciones en las sombras (el jubilado “Jaime” Stiuso) diplomado en contrabando de todo tipo de mercancías y aliado con fiscales y periodistas inescrupulosos que se atreve a intervenir los teléfonos del anterior jefe de la AFI y a publicar sus diálogos con la ex presidenta para acusar a ésta, en el colmo del ridículo, de ordenar su muerte. Dicen que todo lo que necesita “Jaime” para armar una carpeta sobre alguien es su número de celular. Pronto harán 43 años desde que se estreno “La Conversación”, de Francis Ford Cóppola.  ¿qué es lo que ha cambiado desde entonces? El alemán-chileno Martin Hilbert vislumbra un futuro que deja pequeñito al Big Brother de Orwell pero destaca que será nuestra creación y el de la Inteligencia Artificial (IA) que hemos creado… y que tienen a independizarse. Habla ya no de un superhombre como Nietszche (hoy politicamente incorrecto por cuestiones de género) sino de una superespecie… de individuos-células de un organismo mayor ¿omnisciente? // Por último, un comentario de un asunto menor, ma non troppo. Pájaro Rojo detesta la manera en que suele utilizarse la palabra “populismo” en el hemisferio norte, que es como la utiliza también Hilbert. De eso habla con mucho tino el papa Francisco en una entrevista que subiremos por la tarde.

 

martin

La digitalización va a convertirnos en células de un organismo mayor

Todo está espiado

 

POR DANIEL HOPENHAYN / THE CLINIC (Chile)

Asombroso reportaje a Martin Hilbert. “El Big Data permite poner a la gente en muchas más cajas que antes no veías, es un arma de fragmentación muy poderosa. El Deep Learning es la manera como se hace la IA hoy en día. Son redes neuronales que funcionan de manera muy similar al cerebro, con muchas jerarquías.Todo esto que hacen Apple y Google y todas las Siri en el teléfono, todo usa Deep Learning.  Si tienes Gmail en tu celular con wifi, puedes ver en Google Maps un mapa mundial que muestra dónde estuviste cada día, a cada hora, durante los últimos dos o tres años”.

Lo conocen en la academia de las TICs por haber creado el primer estudio que estimó cuánta información hay en el mundo, cifras que acá comenta en un castellano aliñado con modismos chilenos, tecnicismos gringos y erres alemanas. Martin Hilbert (39), Doctor en Ciencias Sociales y PhD en Comunicación, es alemán, pero vivió largos años en Chile como funcionario de la Cepal. Hoy trabaja en la Universidad de California, es el asesor tecnológico de la Biblioteca del Congreso de Estados Unidos y vive a cuarenta minutos de Silicon Valley, donde un futuro inevitable toma forma.

En esta entrevista, no apta para amantes de la vida retirada, explica cómo el Big Data permite a la información interpretarse a sí misma y adelantarse a nuestras intenciones, cuánto saben las grandes empresas de nosotros, y lo que más le preocupa: lo fácil que está siendo convertir la democracia en una dictadura de la información, haciendo de cada ciudadano una burbuja distinta.

También habla sobre la posibilidad de que la inteligencia artificial llegue a generar una conciencia superior. Cree que eso va a ocurrir, pero no hay que tener miedo: “No va a ser Terminator contra nosotros”.

¿Cuánta información hay en el mundo?

–La última vez que actualicé este estudio, hace dos años, había 5 zetabytes. Un ZB es un 1 con 21 ceros, lo cual no te dirá mucho. Pero si tú pones esta información en libros, convirtiendo las imágenes y todo eso a su equivalente en letras, podrías hacer 4500 pilas de libros que lleguen hasta el sol. O sea, hay mucha información.

¿Y a qué ritmo está creciendo?

–A un ritmo exponencial. Se duplica cada dos años y medio. Entonces, ahora probablemente son 10 ZB.

O sea, ocho mil pilas de libros que llegan al sol.

–Ocho o nueve mil pilas, sí. Piensa en esto: desde el 2014 hasta hoy, creamos tanta información como desde la prehistoria hasta el 2014. Y lo más impresionante, para mí, es que la información digital va a superar en cantidad a toda la información biológica que existe en el planeta.

La vida es procesamiento de información, ¿no?

Toma del ambiente moléculas normalmente muertas, toma fotones del sol, y los convierte en estructuras complejas de información con un código base que es el ADN. Y ya existe más información digital que código genético humano. Aun contando cada copia de ADN en las trillones de células de cada persona en el mundo, en la humanidad hay como 1 ZB de información. Y durante este siglo, la información digital va a superar a toda la información genética que existe en la biósfera.

Todo lo cual lleva a muchas preguntas sobre el futuro de la humanidad, ¿no? Parece que la pregunta existencial más importante va a ser cómo interpretamos tantos datos.

–Y la respuesta es que la única manera de interpretarlos es con máquinas también. Este procesador [apunta a su cerebro] no aguanta eso, sabe hacer otras cosas. Ahora, lo bueno es que la información crece muy rápido, pero nuestro poder de computación crece tres veces más rápido. Se duplica en menos de un año. Porque la tecnología siempre es mejor pero también porque tenemos muchas más máquinas, ¿no? Tú mismo tienes ahora un celular, un computador, etc., que interpretan muchos datos por ti. Y ahí viene toda la cuestión de la inteligencia artificial [en adelante, IA] y el Deep Learning, que ahora es lo más importante.

¿Qué es el Deep Learning?

–Es la manera como se hace la IA hoy en día. Son redes neuronales que funcionan de manera muy similar al cerebro, con muchas jerarquías. Todo esto que hacen Apple y Google y todas las Siri en el teléfono, todo usa Deep Learning. Es una IA súper poderosa que descubrimos hace cinco años y ya todo el mundo la usa, porque es muy superior a todo lo que habíamos encontrado.

the_conversation-818209680-large

Y la otra pregunta existencial, ¿qué tan espiados estamos?

–Nooo, ¡súper espiados! Todo está espiado. Y es muy interesante, porque después de Edward Snowden la gente dijo: “¡Qué es esto, pueden ver mis fotos desnudo! Ya, bueno, qué tanto”. Nadie se fue a protestar a la calle, la cosa siguió tal cual. La NSA confesó que hizo un par de cosas demasiado ilegales y bueno, esas cosas se arreglaron. Pero las otras no, y cada vez te van a espiar más. Yo no digo que esto sea bueno o malo, pero la gente tiene que saber. Y si la gente sabe que está espiada y no le importa, está perfecto. Ahora, la pregunta delicada es qué pasa si esos datos llegan a las manos de alguien que pueda abusar de ellos.

En Silicon Valley no están muy contentos con que sus herramientas ahora las pueda usar Donald Trump.

Están muy decepcionados, la verdad.

¿Qué cosas de nosotros se pueden saber de un momento a otro?

–De partida, dónde estás y dónde has estado. Si tienes Gmail en tu celular con wifi, puedes ver en Google Maps un mapa mundial que muestra dónde estuviste cada día, a cada hora, durante los últimos dos o tres años (ver www.google.com/maps/timeline). Es una información que tú les permites coleccionar al aceptar los términos de licencia cuando instalas la aplicación.

Lo que uno nunca lee.

–Exactamente. Y en muchos casos tú puedes optar que no lo hagan, pero nadie se fija. Ahora, lo interesante es que con estos datos de movilidad se pueden hacer estudios. Y ya sabemos, por ejemplo, que se puede predecir con casi un 90% de probabilidad dónde vas a estar tú en cada momento de cada día del año que viene. Imagínate lo que vale esa información para una empresa que hace marketing, por ejemplo.

 

 

Cuentas que en África el celular hizo lo que nunca pudo hacer el certificado de nacimiento. La huella de que una persona existe es su teléfono.

–Claro, es súper poderoso. Es tu verdadera huella digital. Y África es el caso extremo, pero piensa en América Latina, donde hay tanto orgullo por los censos.

El censo de Chile ahora fue un desastre y era una tragedia, ¿no?

Pero con los datos de tu celular, si uso solamente lo que se llama metadata, o sea sin escuchar tus conversaciones ni saber con quién hablas, sino sólo con qué frecuencia y con qué duración usas tu celular, con eso yo puedo hacer ingeniería reversa y reproducir el 85% de tus resultados de un censo: si eres hombre o mujer, cuál es tu rango de ingresos, si tienes niños, si estás casado, tu origen étnico…

¿Sólo conociendo la frecuencia y duración con que uso mi celular?

–Sí. El censo que hacen cada 10 años, que es tan costoso y tan importante, lo puedo reconstruir en un 85% con esos dos datos. De eso se trata el Big Data: tenemos tantos datos y tanta capacidad de procesarlos, de identificar correlaciones, que podemos hacer a la sociedad muy predecible. Y cuando puedes predecir, puedes programar.

Y en el caso de las empresas de Internet que nos prestan servicios gratuitos, ¿qué tan importante es para su negocio la información que tienen de nosotros?

–Todo, eso es todo lo que tienen. Facebook vale billones de dólares por la información, no por otra cosa. De las diez empresas del mundo tasadas a un precio más alto, yo creo que cinco son proveedoras de información. Y la gente siempre dice “no, hay que regular todo eso, proteger a los usuarios”. Pero la demanda más extrema que he escuchado en todas esas conferencias donde voy, es que necesitamos derechos de propiedad de datos, como los de propiedad intelectual, para que tú puedas vender tus datos y no regalarlos. Y yo voy con este reclamo donde mis amigos en Silicon Valley y me dicen “pero hueón, ¡si ya lo estamos haciendo! Tú sigues siendo dueño de tus datos, pero aceptas que yo también lo sea al aprobar los términos de licencia. Y a cambio puedes usar Google Maps gratis y te ahorras una hora de taco al día, ¿no es fantástico?”.

Ahí llegamos al fin de la discusión, no hay nada más que hacer. Incluso ante las propuestas más progresistas, Silicon Valley ya tiene respuesta. Y la verdad es que la gente se beneficia tanto de eso que no le molesta.

También las empresas telefónicas, que uno supone que sólo nos cobran el plan, hacen buena plata con nuestros datos, ¿no?

–Claro. Por ejemplo, Smart Steps es la empresa de Telefónica que vende los datos de la compañía. Si tú tienes Movistar, tus datos están ahí vendidos.

¿A quién le sirven?

–¡A mucha gente! Si tú quieres abrir una tienda de corbatas en una estación de metro, te vale mucho saber cuántos hombres caminan en cada salida del metro, entonces compras estos datos de Telefónica. Y también los puedes usar en tiempo real: saber a qué hora pasa la gente, e incluso si se detiene o no a ver el anuncio de oferta que pusiste afuera. Y lo más impresionante es que esto convirtió a las ciencias sociales, de las que siempre se burlaron, en la ciencia más rica en datos. Antes tenías que hasta negociar con diplomáticos para que te prestaran una base de datos de cien filas por cien columnas. Y en las universidades hacían experimentos con 15 alumnos de pregrado, que necesitaban créditos extra para pasar el ramo, todos blancos, todos de 18 años, y decían “miren, así funciona la psicología humana”. ¡De adónde!

Nosotros nunca tuvimos datos, y por eso nunca funcionaban las políticas públicas. Y de la noche a la mañana, el 95% de los sujetos que estudiamos pasó a tener un sensor de sí mismo 24 horas al día. Los biólogos siempre dijeron “eso no es ciencia, no tienen datos”. Pero ellos no saben dónde están las ballenas en el mar. Hoy nosotros sí sabemos dónde están las personas, pero también sabemos qué compran, qué comen, cuándo duermen, cuáles son sus amigos, sus ideas políticas, su vida social. Se puede abusar como Obama y Trump lo hicieron en sus campañas, como Hillary no lo hizo y por eso perdió. Pero el gran cambio es que estamos conociendo a la sociedad como nunca antes y podemos hacer predicciones con un nivel científico. ¡Lo de antes era arte, no era ciencia!

Trump te conoce

 

Entiendo que algunos estudios ya han logrado predecir un montón de cosas a partir de nuestra conducta en Facebook.

–Claro, esos son los datos que Trump usó.

Teniendo entre 100 y 250 likes tuyos en Facebook, se puede predecir tu orientación sexual, tu origen étnico, tus opiniones religiosas y políticas, tu nivel de inteligencia y de felicidad, si usas drogas, si tus papás son separados o no. Con 150 likes, los algoritmos pueden predecir el resultado de tu test de personalidad mejor que tu pareja.Y con 250 likes, mejor que tú mismo.

Este estudio lo hizo Kosinski en Cambridge, luego un empresario que tomó esto creó Cambridge Analytica y Trump contrató a Cambridge Analytica para la elección.

¿Qué hizo con eso?

–Usaron esa base de datos y esa metodología para crear los perfiles de cada ciudadano que puede votar. Casi 250 millones de perfiles. Obama, que también manipuló mucho a la ciudadanía, en 2012 tenía 16 millones de perfiles, pero acá estaban todos. En promedio, tú tienes unos 5000 puntos de datos de cada estadounidense. Y una vez que clasificaron a cada individuo según esos datos, lo empezaron a atacar. Por ejemplo, en el tercer debate con Clinton, Trump planteó un argumento, ya no recuerdo sobre qué asunto. La cosa es que los algoritmos crearon 175 mil versiones de este mensaje –con variaciones en el color, en la imagen, en el subtítulo, en la explicación, etc.– y lo mandaron de manera personalizada.

Te doy un ejemplo. Ssi Trump dice “estoy por el derecho a tener armas”, algunos reciben esa frase con la imagen de un criminal que entra a una casa, porque es gente más miedosa, y otros que son más patriotas la reciben con la imagen de un tipo que va a cazar con su hijo. Es la misma frase de Trump y ahí tienes dos versiones, pero aquí crearon 175 mil.

índice

Claro, te lavan el cerebro.

No tiene nada que ver con democracia. Es populismo puro, te dicen exactamente lo que quieres escuchar.

¿Y qué hizo Obama?

–Obama fue como el pionero en esto. En la campaña de 2012, para su reelección, invirtió en esto mil millones de dólares, mucho más que en comerciales de TV. Y con eso contrató a un grupo de cuarenta nerds, de Twitter, de Google, de Facebook, de Craigslist, tres profesionales de póker, otro que trabaja con células madres, en fin. A esos cuarenta nerds los puso en un subterráneo, les dio mil millones de dólares y un número para el servicio de pizza, ¿no? Y ahí en el subterráneo crearon los 16 millones de perfiles que les interesaban, los votantes indecisos.

Sacaron datos de todos lados

–Incluso tuvieron acceso a las Setup-Boxes, lo que sería el DirectTV en Chile, que registra cómo tú ves televisión. Si tienen acceso a eso, ya saben lo que te interesa, y empezaron a llevar comerciales individualizados. Lo más delicado es que no sólo pueden mandarte el mensaje como más te va a gustar, también pueden mostrarte sólo aquello con lo que vas a estar de acuerdo. Si Obama tiene sesenta compromisos de campaña, puede que 58 te parezcan mal, pero al menos con dos vas estar de acuerdo. Digamos que estás a favor del desarrollo verde y a favor del aborto. Bueno, empezaron a mostrarte en Facebook sólo estos dos mensajes.

¿Con avisos publicitarios?

–No, lo hicieron más sofisticado. Como algún amigo vas a tener que hizo un like a la campaña de Obama, ese like les dio acceso a los perfiles de todos sus amigos –esto también va en la licencia que nunca leemos–, entonces podían ver tu historial y clasificarte. Y además tenían acceso a postear desde el timeline de tu amigo, porque esto también está permitido. Él no lo ve, Facebook no se lo muestra, pero tú sí vas a ver muchos artículos así como “Obama el héroe de la energía alternativa”, “Obama el héroe del aborto legal”. No son propagandas de la campaña, son artículos de prensa bien elegidos. Y si tú por medio año ves “Obama héroe” de estas dos cosas que te gustan, al final vas a decir “oye, tan mal no está este Obama”.

En 2012 le cambiaron la opinión al 78% de la gente que atacaron así.

–Y Trump lo hizo con 250 millones.Creo que George Orwell se metería un tiro, porque ni él se imaginó algo así. La democracia es completamente inútil con algo así.

En un artículo explicabas que también los call center de Estados Unidos te clasifican mientras hablas, y cuando vuelves a llamar te derivan a un empleado con una personalidad afín a la tuya.

–Así es.

El que habla contigo no lo sabe, ¿no?

Una vez conté esto en una conferencia y uno de mis estudiantes, la próxima vez que llamó a un call center, le dijo “¡oye hueón, deja de clasificarme la personalidad!”. El otro no entendía nada, ¡ja, ja, ja!. El trabajo lo hacen alrededor de diez mil algoritmos que te escuchan hablar y clasifican tu personalidad en seis diferentes cajas. La última vez que hablé con esta compañía, me dijeron que ya el 30% de las llamadas a los call center de Estados Unidos están intermediadas así. Y ya hay sistemas que les dan inteligencia en tiempo real: el tipo está ahí con un monitor que le dice “ahora es el momento de ofrecerle tal cosa”, “ahora ya no”. Pero eso es reciente, por ahora lo más común es que te dejan clasificado.

Y todo esto, al final, ¿a qué nos lleva? A crear burbujas, en todos los niveles.

¿Cómo así?

–Que la gente emocional sólo hable con gente emocional, la gente de acción con la gente de acción, los reactivos con los reactivos. Hablamos mucho de que ahora los demócratas no hablan con republicanos, pero esta fragmentación de la sociedad en subgrupos va mucho más allá de la política. La verdad, es una cosa triste. Pero no es culpa de la tecnología, es la manera en que la usamos hoy día. Toda tecnología es normativamente neutral, tú puedes usar un martillo para colgar un cuadro o para matar a tu vecino.

Lo mismo con la tecnología digital: podríamos usarla para unir gente, para mezclar gente de opiniones opuestas, pero no lo estamos haciendo. Y más rezagada aún queda la democracia, incapaz de mediar entre tanta información fragmentada. No hay denominador común.

–Claro, el Big Data permite poner a la gente en muchas más cajas que antes no veías, es un arma de fragmentación muy poderosa.

Sí, esa es una amenaza.

–Esto de la privacidad y el comercio no es el gran problema, la gente tiene razón en no preocuparse tanto. Es útil que las chicas reciban comerciales sobre la píldora y los chicos sobre condones, ¿no? Ahora, Big Data para la democracia representativa… ahí termina. Tú sabes que la democracia siempre estuvo muy ligada a las posibilidades informacionales que tenía cada sociedad. Aristóteles fue muy claro en decir que la democracia no podía ir más allá de un radio de 70 km, porque la información no podía viajar más que eso en un día. Por eso la democracia griega fue para una ciudad.

Y en Estados Unidos, ¿por qué crearon las primarias, los colegios electorales por cada Estado y todo eso que conocemos?

–Porque el viaje en caballo de costa a costa tomaba una semana. Como no había acceso a la gente y la gente tampoco estaba informada, se necesitó todo este constructo representativo. Pero con la tecnología actual, este constructo está completamente abusado y tiene potencial para constituirse en una dictadura informacional, esto hay que decirlo abiertamente.

Esto es lo que más me preocupa.

–La democracia representativa de esta manera no funciona.

Obligados a pensarla de nuevo…

–La verdad es que tenemos que repensarla completamente. Y ya tampoco podemos ignorar que las redes digitales son globales. O sea, personas que están a miles de millas se pueden ofender con una información que les llega y presentarse en la redacción de una revista para matar a los dibujantes.

Es que todo esto pasó muy rápido.

–Llevábamos miles de años separados en diferentes culturas y nos tuvimos que conocer en un par de décadas. En el Islam dijeron que no quieren ver mujeres desnudas, y un día llegamos nosotros con el TV cable y les forzamos a mirar las tetas de Pamela Anderson. y nosotros no entendemos por qué ellos pueden tener dos esposas.

Entonces, si la información fluye globalmente, ¿hasta dónde podremos prescindir de una gobernanza global?

–No lo sé.  Pero esto va a ser un camino de ensayo y error, como siempre ocurrió con la tecnología. Ahora vimos que Facebook, después de la elección de Trump, empezó a limpiar sus fake news, estas noticias mentirosas. Hace tres meses decían que no lo harían: “No, nosotros no somos editorial”, y ahora están sacando cosas. Ya es un comienzo.

Y los Estados, ¿están sabiendo aprovechar el Big Data para las políticas públicas?

–No, están muy atrás todavía. Pero tienen una oportunidad muy grande. Se estima que el Estado posee alrededor de un tercio de los datos de un país, lo que es mucho.

¿Acaso tiene un tercio del poder productivo?

Ni loco. Pero el gobierno sabe todo lo que pasa en los colegios, en los hospitales, en los servicios de impuestos, ¡cuánta información hay ahí! Se puede aprovechar mucho más para políticas sociales y económicas, sobre todo en América Latina. Esto es lo primero, y lo segundo es poner la información que es pública a disposición de la sociedad, lo que se llama el Open Data. Pero ahí estamos aún más atrasados, incluso acá (en EEUU, N. del E.). Por ejemplo, a mí me nombraron Chair of Technology de la Biblioteca del Congreso, que en EE.UU. siempre fue LA institución de la información. Me invitaron porque se dan cuenta de que perdieron el tren y Google les robó el show en diez años. Y cuando voy allá, veo que todavía podrían recolectar mucha más información, y hacerla pública. Los mapas, por ejemplo, ¡el gobierno tiene un montón de mapas! No necesitamos Google Maps, los militares tienen todos los mapas que necesitas.

¿Por qué no los hacen disponibles?

Los precios de terrenos, qué tipo de terrenos hay para qué tipo de agricultura, quién es el dueño del terreno, todo esto el gobierno lo tiene y socializarlo podría ser muy productivo. Es una buena noticia: si el insumo de esta nueva economía son los datos y el Estado tiene un tercio de ellos, los puede usar para democratizar la economía.

Si es que también se democratiza la capacidad de usarlos.

–Sí, esa será la clave, y todavía no está claro si la disponibilidad de información crea más o menos desigualdad. Pero si en otra época el Estado destinó recursos para llevar la telefonía a las áreas rurales, ahora tendrá que hacerlo para igualar el acceso a Big Data. Son cosas que estamos aprendiendo…  pero los gobiernos ya podrían estar haciendo mucho más.

El futuro artificial

¿En Silicon Valley están muy locos?

–¡Ja, ja, ja! Depende. Algunos, como este alemán Peter Thiel, quien creó eBay y que ahora está con Trump, él está un poco loco. Pero la verdad es que no son locos, son un poco arrogantes. Pero son arrogantes con justificación, porque realmente cambian el mundo, mucho más que un gobierno. Por eso también les llegó pésimo lo de Trump. Estaban muy enojados, no podían creer que se usó su tecnología para poner a un fascista en el poder. No, la verdad es que todavía están muy confundidos con eso. Bueno, dicen que la caída viene después de la arrogancia. Algo que cuesta asimilar es que los datos, al crecer tanto, ya se explican a sí mismos, descubren solos sus relaciones causa-efecto.

Como el traductor de Google, que pegó el gran salto cuando le quitaron las reglas de traducción y empezó simplemente a comparar datos.

–Y con eso, además, ya puede traducir entre dos idiomas aunque nadie en el mundo hable esos dos idiomas. Te cuento un caso.¿Te acuerdas de ese juego para Atari y PC, parecido al pimpón, en que tenías que mover una barrita hacia los lados para achuntarle a una pelota que rebotaba arriba en unos bloques? Y sacabas puntos al ir destruyendo esos bloques.

Sí.

–Bueno. Al DeepMind, un programa de IA que usa el Deep Learning, lo pusieron frente a ese juego y le dijeron “tienes que ganar puntos”. Pero no le dijeron cómo se ganan los puntos. Ni siquiera le dijeron “vas a ver una barrita, una pelota y unos bloques arriba”.Solamente le dieron la capacidad de reconocer pixeles.A los diez minutos, el DeepMind casi no agarraba la pelota, porque no entendía frente a qué situación estaba. Después de dos horas, jugaba al nivel de un experto. Y a las cuatro horas, mejor que cualquier ser humano. Pero no sólo por su precisión técnica, sino porque descubrió una estrategia para ganar que poca gente descubre. Es decir, sólo correlacionando movimientos de pixeles y puntos ganados por azar, llegó a innovar y ser más creativo que la mayoría de los humanos. Es lo mismo que hace la IA con el ajedrez. Se suponía que Go era el juego en que nunca iba a pasar a los humanos, muchísimo más complejo que el ajedrez. Bueno, DeepMind le ganó hace medio año al campeón de Go…. Entonces sí, la información se autointerpreta y son mejores que nosotros.

¿Es cierto que las grandes compañías ya toman decisiones sin saber por qué las toman?  Sólo porque la IA ve los datos y les dicen “hagan esto”.

–Claro, y está perfecto. Además, las relaciones de causalidad, muy filosóficamente, nunca las podemos conocer. Como decía Popper, sólo podemos descartar causas: tú no puedes saber si realmente X causó…  Sólo puedes comprobar que Z no causa Y. Pero estas correlaciones nos sirven para explicar y predecir. Ahora, si tú cambias el sistema que produjo estos datos, ahí te puedes equivocar muchas veces. Pero ese ya es otro problema.

Pero también sería un problema si, por ejemplo, llegáramos a meter preso a alguien porque su conducta en Facebook, según un programa, predice que es un potencial asesino.

–Sí, pero esto también lo hacen las personas. Si un psicólogo dice que eres un peligro para la sociedad, también te pueden encerrar. Y la verdad es que la IA es muchas veces más exacta que un psicólogo. Al final, el juego con la tecnología siempre ha sido ver cuáles tareas se pueden automatizar y cuáles tendremos que seguir haciéndolas nosotros. la gran innovación de los primeros imperios, por ejemplo, fue hacer canales de agua para sus plantaciones. Así ya no necesitaban usar un tercio de su fuerza laboral en ir al río y traer agua. Imagínate qué brutal: un tercio de la gente quedó desempleada.

¿Qué hicieron con ellos?

–A la mitad los convirtieron en soldados y empezaron a dominar a otros pueblos. A otros los hicieron arquitectos y constructores y crearon las ciudades y templos más grandes de la humanidad. Otros se hicieron artistas, otros empezaron a escribir… ¡a escribir, hueón, no tenían nada más que hacer! Y es así como las sociedades han avanzado, ahorrando tiempo y automatizando tareas. Si un robot reconoce células de cáncer, te ahorras al médico. En San Francisco hay una farmacia donde no hay ninguna persona trabajando: yo soy un robot, tú me das una receta, yo te mezclo un poco de este polvo, un poco de este otro, lo pongo en una caja y te lo doy. Además el robot sabe exactamente qué interacción hay entre qué medicamentos, más que ningún farmacéutico. Más del 50% de los actuales empleos son digitalizables, incluso escribir noticias rápidas, como sabrás. Y ya no hablamos de reemplazar a los obreros, como en la revolución industrial, sino también los trabajos de la clase más educada: médicos, contadores, ¡abogados, hueón! Hay una aplicación en el teléfono que te dice cuánto estás obligado a pagar si te divorcias, según los detalles de tu caso. Te ahorraste mil dólares de abogado por pedirle ese estudio.

Claro, es brutal. Pero esto ya ha pasado antes y no fue el fin de la historia. Inventaron hueás nuevas tan locas como escribir, que antes nadie tenía tiempo de pensar en eso. Lo que sí sería nuevo, y es el gran miedo cuando se habla de la “era de la singularidad” que supuestamente viene, es que el robot pase a decidir por nosotros. En el fondo, que nos ganen.

Claro, es la pregunta: si va a ser “el Terminator contra nosotros”.

–Mira, la singularidad viene. O ya está acá. Trata de deshacerte de tu celular por un año. Ya estamos fusionados con esta tecnología, como sociedad y como especie. Nuestra distribución de recursos ocurre básicamente en la bolsa, y acá el 80% de las transacciones de la bolsa son decididas por IA. El 99% de las decisiones de la red de electricidad son tomadas por IA que localiza en tiempo real quién necesita energía. Y si tú me dices “Mira, Martin, recién descubrimos una especie donde un sistema que se llama IA distribuye el 80% de los recursos y el 99% de la energía”, yo diría “bueno, IA es una parte inseparable de esta sociedad”. Y ya no se puede deshacer, no se puede desenredar. Tú podrías irte a la cordillera, dejar tu celular atrás y nunca más tener interacciones digitales, pero ya no serías parte de nuestra sociedad. Dejarías de evolucionar con nosotros. El punto aquí es que la especie humana ya evoluciona en convergencia con la tecnología, que en algunos aspectos ya es mejor que nosotros… no en todos.

De nuevo, la pregunta es qué cosas dejamos a la IA y qué cosas no.

–Mientras eso lo decidamos nosotros y no ellos, si aprenden a pensar por su cuenta.

Sí.

–Y si me preguntas a mí, digamos, filosóficamente, lo que creo que está pasando es que efectivamente estamos creando una supraespecie, otra especie superior. Pero la verdad es que no tengo tanto miedo de eso.

¿Por qué no?

–A ver… Normalmente entendemos que la selección natural, cuando hay dos especies, elige a una de las dos, la famosa “supervivencia del más apto”, ¿no? Pero también hay ejemplos de simbiosis en que las dos especies se fusionan, y yo creo que en este caso las dos especies se van a fusionar. Pero ya hablamos tanto que no sé si vale la pena explicar todo esto…

Parece que sí.

–Quizás para entenderlo hay que mirar cómo funciona la vida, los sistemas vivos. Como sabes, existen diferentes niveles de abstracción: abajo tienes partículas subatómicas que interactúan para formar átomos; los átomos forman redes para crear moléculas; las moléculas, para crear células, y las células se ponen en redes –cada una con su respectiva pega– para crear organismos. Después, los organismos se ponen en redes para crear sociedades.  ¿Qué viene después? Sociedades que se ponen en red a través de la tecnología para crear algo superior. El punto es que cada uno de esos niveles cree funcionar con sus propias leyes, y no saben que gracias a esas leyes se han formado otras leyes que han creado un nivel superior. Mis células no saben que yo tengo conciencia. Se encuentran y dicen “mira, ahí hay una bacteria, ¿la atacas tú o yo?”. Piensan que son bastante libres, ¿no? Pero los grandes números crean una estadística confiable de que esa bacteria va a ser atacada, y gracias a la estabilidad de esos promedios es que mi sistema tiene la tranquilidad para crear lo que llamamos conciencia. Y lo que creo que va a terminar haciendo la digitalización es convertirnos a nosotros en células de un organismo mayor.

¿Cómo?

–A medida que la IA empiece a organizarnos, a programar a la sociedad. Y va a poder hacerlo porque si bien tú y yo creemos ser muy distintos, el funcionamiento de la sociedad, con los grandes números, consigue promedios muy estables. Entonces este organismo puede sobrevivir, hasta que yo me imagino que va a poder producir una conciencia. Pero nosotros ni vamos a saber que esa conciencia existe. Por eso te digo que no va a ser “Terminator contra nosotros”. Es un supraorganismo con el que nos estamos fusionando, y la digitalización es como el aceite que nos une…

La verdad es que normalmente no hablo de esto en entrevistas públicas, pero eso significa para mí la singularidad: estamos convergiendo con la tecnología para crear un ente superior, sociotecnología, tecnosociedad o como lo quieras llamar.

¿Por qué no te gusta hablar de esto en entrevistas?

–Porque es muy loco, ¿no? Es muy profundo y hay gente que se preocupa más de la cuenta. Prefieren hablar del robot de Amazon que les mandó un paquete equivocado. Nos descoloca que nos hablen de un chip implementado en el cerebro, pero ya todos usamos tecnología para aumentar nuestras capacidades. No es en ningún caso el fin de la humanidad, es la evolución que sigue su camino. Y la manera en que esto ocurra va a depender de nosotros. Entonces nos conviene entender que tenemos por delante una gran responsabilidad, porque nosotros diseñamos las instituciones que van a definir el futuro de estas convergencias. Creo que lo que va a terminar haciendo la digitalización es convertirnos en células de un organismo mayor.

Comentarios (5)

  1. Carlos Diaz

    Extraordinario reportaje. Agradezco su publicación

  2. Pingback: Inteligencia Artificial y Big Data: ¿democracia o dictadura de la información? – KontraInfo.com

  3. regimenlegalradiodifusion

    muy bueno, excelente. Igual es para plantear un debate

  4. palquienque

    mas que interesante tema a debatir…
    me quedo picando una pregunta que le haria sobre como funciona las interacciones en FB por ejemplo, respecto a los clicks…digamos yo abro mi facebook y visualizo mi muro bajando o subiendo sin interactuar “como observador” sin tildar “me gusta” ni comentar…si accedo a otro amigo o pagina fan eso ya se toma como un dato…pienso todo en que la navegacion con nula interaccion y la navegacion con intensa interaccion podria dar resultados distintos…dependiendo la frecuencia o tiempo entre interaccion e interaccion…por ejemplo podria navegar y entrar a paginas anarquistas tomar informacion sin ejercer acciones y luego de un periodo ingresar a pagina pro nazis y dar 100 likes…eso engañaria de algun modo el patron…

    en fin mas que cautivante cuestion para abordarla largo y tendido.
    Saludos!

  5. Pingback: LA POLITICA NO HA MUERTO: Contribución al diálogo colectivo sobre “el estado de la globalización” y “el mundo con Trump” – CENACK

Comentarios cerrados

A %d blogueros les gusta esto: