jueves, 1 de junio de 2023

La Inteligencia Artificial y los aprendices de brujo

 Por Carmen Posadas

El otro día, en un ejercicio de narcisismo digital, le pregunté al ChatGPT quién era Carmen Posadas. Respondió que una escritora nacida en Montevideo en 1962 (¿?) y casada en primeras nupcias con Antonio Gala (!!) y en segundas con Alberto Manrique, pintor y acuarelista español (¿¿!!??). Me reí un buen rato pero, si quieren que les diga la verdad, sigo tan preocupada con el asunto de la Inteligencia Artificial como antes. 

Porque, aunque ahora diga dislates, la IA utiliza sus errores para aprender o, en otros casos, perpetúa inexactitudes y falsedades hasta convertirlas en “verdades”. Nos encontramos pues ante una revolución. Y las revoluciones suelen ser sangrientas o, para decirlo menos dramática y más metafóricamente, provocan multitud víctimas. Desde que comenzó a hablarse del tan traído y llevado Chat y de la IA en general, dentro de mi desastrosa incapacidad para entender complejidades científicas, he intentado informarme y averiguar en qué consiste el fenómeno. Entiendo por ejemplo que la inteligencia artificial es una extraordinaria herramienta. Una tan útil y eficaz que está produciendo ya enormes avances en medicina, en el desarrollo de nuevos materiales o en la prevención de terremotos e inundaciones. Aun así, y como toda herramienta depende enteramente de cómo y para qué se use de modo que –tal como hace poco advirtió Geoffrey Hinton, ex vicepresidente de Google, que ha renunciado a su puesto para dedicarse a alertar sobre el reverso tenebroso de la IA–, no es disparatada la posibilidad de que un día, y no muy lejano, acabe propiciando al fin de nuestra civilización. O dicho en palabras de Norbert Wiener, padre de la cibernética, allá por los años sesenta: “corremos peligro de convertirnos en aprendices de brujo y desencadenar un fenómeno que, eventualmente, acabe con sus incautos aprendices”. A la pregunta de cuáles son los mayores peligros de la IA, Hinton señala que la primera y más obvia es la generación de noticias falsas, que ya está causando grandes divisiones en la sociedad. Luego está la eliminación de varios tipos de trabajo, no solo los más básicos y mecánicos, sino que también afectará a los llamados trabajadores de cuello blanco, es decir a la clase media, algo que aumentará drásticamente la brecha entre ricos y pobres. Pero los temores de Hinton van más allá. Según él, el hecho de que en un plazo de cinco a veinte años la IA supere a la inteligencia humana platea escenarios hasta ahora desconocidos y lo explica así: Primero, la inteligencia artificial, al manejar cantidades ingentes de información (big data) será más sapiente que nosotros. “Pero nuestros cerebros” –argumenta Hinton–, “son fruto de la evolución, de modo que han ido integrando en sus circuitos todo aquello que favorece la supervivencia. Tienen por tanto metas integradas como no lastimar el cuerpo, de ahí la noción del daño, por ejemplo”. Las inteligencias artificiales en cambio son construidas y depende cómo se construyan pueden comportarse de un modo u otro.

En consecuencia, la gran pregunta es: ¿Podemos asegurarnos de que tengan metas que nos beneficien? ¿No será más bien que cada cual (y en este apartado entran aprendices de brujo tan altruistas y bienintencionados como Putin o Kim Jong-un) buscará su propio beneficio por no decir su capricho o delirio? Cabezas pensantes entre las que se cuentan Bill Gates, Elon Musk, Warren Buffet también han expresado su preocupación ante esta nueva realidad. Pero de momento nadie se pone de acuerdo en cómo salirle al paso. Moratorias como la propuesta semanas atrás por un grupo de expertos parecen una ingenuidad. Primero porque el desarrollo de la IA está en manos de empresas privadas que compiten entre sí y hay mucho dinero por medio. Y segundo porque son escasas, por no decir nulas las posibilidades de que, si los Estados Unidos, pongamos por caso, decidieran abandonar el desarrollo de] esta tecnología, China – o Rusia o Corea del Norte- hagan otro tanto “Habrá que prepararse con tiempo para el reto” –alerta Buffet– mientras que, al igual que Hinton, aboga por dar voto de confianza a la inteligencia humana. “Se necesita gente creativa e inteligente que descubra cómo mantener a la IA bajo control” –concluye este último. “Seamos optimistas”.

© www.carmenposadas.net

0 comments :

Publicar un comentario