Qué es la ley de las consecuencias imprevistas (y por qué importa tanto ahora)

Cuando los pioneros de las redes sociales las crearon, lo hicieron con la esperanza de abrir espacios para que personas y comunidades se conectaran..

Pronto se dieron cuenta de que no todos los intercambios serían amables, pero esto no era del todo inesperado dada la naturaleza humana.

Lo que difícilmente podrían haber predicho es que, en cuestión de unos pocos años, las redes se convertirían en herramientas sofisticadas para ajustar el curso de la democracia según una tendencia u otra.

O que los dirigentes se escudarían detrás de ellos, alegando que a través de esos medios se comunicaban directamente con los gobernados, negándoles así el derecho a cuestionarlos.

Y es que Toda innovación, en cualquier ámbito, trae consigo consecuencias imprevistas, a veces positivo; otros, negativos y muchas veces sorprendentes.

Es un fenómeno que observadores sociales de diferentes disciplinas han notado desde la antigüedad.

El filósofo Platón, por ejemplo, lo ilustró maravillosamente en el diálogo Fedro.

En él, Sócrates cuenta que cuando el dios egipcio Teut –que había inventado, entre otras cosas, las letras– fue a mostrar al rey Tamus todas sus obras, le pidió que le explicara lo útiles que eran.

“Cuando empezaron a escribir, Teut dijo: ‘¡Oh rey! Este invento hará a los egipcios más sabios y servirá a su memoria.; He descubierto un remedio contra la dificultad de aprendizaje y retención’”.

El rey respondió que el genio inventivo no es el mejor juez y que, respecto a la escritura, le atribuía “todo lo contrario de sus verdaderos efectos”.

“Sólo producirá el olvido en el alma de quienes lo conozcan, haciéndoles despreciar sus recuerdos; Se basarán en escritos externos y no los recordarán ellos mismos.

“Lo que has descubierto no es una ayuda para la memoria, sino para la reminiscencia; Es No das a tus discípulos la verdad, sino sólo la apariencia de la verdad.; Oirán muchas cosas y no aprenderán nada; Parecerán omniscientes y generalmente no sabrán nada; Serán una compañía tediosa, tendrán apariencia de sabiduría sin realidad”.

Para Platón, el verdadero conocimiento se alcanzaba a través del diálogo socrático: la búsqueda de respuestas a través del esfuerzo de la reflexión y el razonamiento.

Aunque no esté de acuerdo con su opinión sobre la escritura, la historia muestra cómo incluso las tecnologías más valiosas pueden tener consecuencias imprevistas.

Adam Smith, considerado el padre de la economía moderna, le dio el nombre de “mano invisible” a uno de los más famosos.

El filósofo escocés del siglo XVIII sostenía que cada individuo que busca sólo su propio beneficio “es conducido por una mano invisible a promover un fin que no formaba parte de su intención”, generando beneficios generalizados.

Varios pensadores discutieron lo que hoy se llama la “ley de las consecuencias imprevistas”, pero fue el sociólogo estadounidense Robert K. Merton quien, en 1936, publicó el primer análisis del concepto.

De la bicicleta a Marx

Merton comienza su influyente artículo “Las consecuencias imprevistas de una acción social intencionada” comentando que hasta ese momento no se había realizado ningún análisis científico sistemático del tema.

Supone que tal vez se debió a que durante la mayor parte de la historia de la humanidad lo inesperado se atribuyó a “dioses”, “destino” o interferencia divina.

Con la Era de la Razón empezamos a creer que se podía entender la vida.

En su estudio, Merton identificó cinco causas principales de estos resultados inesperados.

La ignorancia es la primera.: Son imprevistos, por lo que en algunos casos, por mucho que se quisiera, hubiera sido muy difícil adivinar que sucedería lo que pasó.

Quienes desarrollaron la bicicleta moderna en las décadas de 1880 y 1890 no planearon crear un vehículo de liberación femenina.

No sólo promovió el uso de “ropa racional”, sino que tuvo un profundo impacto en los derechos y roles de las mujeres en la sociedad.

“Déjame decirte lo que pienso sobre andar en bicicleta”, dijo la sufragista Susan B. Anthony en una entrevista de 1896.

“Creo que hizo más por la emancipación de la mujer que cualquier otra cosa en el mundo. Le da a la mujer una sensación de libertad y autosuficiencia. La hace sentir independiente (…) y crea la imagen de una feminidad libre y sin restricciones”.

Así, una infinidad de ejemplos demuestran que, escribió Merton, “la limitación más obvia para una anticipación correcta de las consecuencias de una acción la proporciona el estado de conocimiento existente”.

Lo cual, entre otras cosas, llevó en ocasiones a algunos a “apoyar el argumento que dice en efecto: ‘si hubiéramos sabido, lo habríamos sabido’” añadió.

La segunda causa principal fue el error: A veces el análisis falla o acciones que tuvieron éxito en el pasado se repiten en situaciones nuevas, sin repensarlas.

La convincente inmediatez del interés.lo que lleva a descuidar la consideración de las consecuencias a largo plazo, ya que la principal preocupación son los efectos inmediatos esperados, es la tercera causa.

El cuarto es “superficialmente similar al factor de inmediatez” pero significativamente diferente: el Valores básicos.

Estos pueden llevarnos a actuar de acuerdo con creencias fundamentales sin considerar las consecuencias.

Merton citó el caso de la ética protestante y el espíritu del capitalismo para ilustrar este punto.

Las normas morales protestantes de trabajo duro y ascetismo “conducen paradójicamente a su propia decadencia mediante la acumulación de riqueza y posesiones”.

Y por último, una causa que parece esotérica: la profecía autodestructivaen el que no se actúa por miedo a consecuencias negativas e imprevistas, ni alerta ante un problema futuro, y esto evita que suceda.

“Para dar un ejemplo social concreto”, señaló Merton, “la predicción de (Karl) Marx sobre la progresiva concentración de la riqueza y la creciente miseria de las masas influyó en el proceso mismo predicho.

“Al menos una de las consecuencias de la predicación socialista en el siglo XIX fue la expansión de la organización del trabajo, que (…) ralentizó, si no eliminó, los acontecimientos que Marx había predicho”.

En su libro “La lógica del azar”, el matemático y filósofo John Venn utilizó el colorido término “profecías de suicidio”para nombrar esta quinta causa principal de consecuencias no deseadas.

Con el tiempo, otros pensadores sumaron otros, como el economista Kenneth Arrow, quien aportó una advertencia: “la mayoría de la gente subestima la incertidumbre en el mundo”.

Merton clasificó además 3 tipos de consecuencias imprevistas:

* beneficios inesperadoscomo los numerosos casos de descubrimientos científicos fortuitos.

* inconvenientes inesperadosen el que lo que se desea se puede lograr, pero acompañado de aspectos negativos.

* efectos perversoslo que resulta en lo contrario de lo que se pretendía.

¿Por qué esto importa tanto ahora?

Porque estamos en el umbral de una nueva etapa para la humanidad, probablemente una de las más significativas de todas..

La rápida aparición de una nueva generación de sistemas de inteligencia artificial capaces de emitir juicios, tomar decisiones y generar ideas es uno de los mayores desafíos de la sociedad.

La inteligencia artificial es un gran salto hacia lo desconocido en diferentes áreas de nuestras vidas, desde la atención médica hasta la educación, desde el ejército hasta el derecho, desde las artes hasta el transporte.

Cambiará nuestras vidas de maneras que aún no podemos imaginar.

Pero no podemos darnos el lujo de no hacerlo.porque detrás de la apasionante innovación y el entusiasmo por la IA hay preguntas fundamentales que debemos plantearnos a nosotros mismos, a los líderes tecnológicos y a nuestros gobiernos ahora.

“Cuando se trata de IA, hay muchos que la ven como algo mágico, o piensan que habrá una batalla inminente entre humanos y robots, y el tipo de preguntas son como de ciencia ficción: ‘¿se puede confiar en un robot’»? .

Esto le dijo al programa. El cambio en la confianza por BBC Jack Stilgoeprofesor del University College de Londres y parte de un nuevo y gigantesco programa de investigación en el Reino Unido llamado IA responsable o RAI (IA Responsable).

“Como científico social, quiero llamar la atención sobre el hecho de que realmente No se trata de confiar en un robot, sino de confiar en las personas que están detrás de las tecnologías.“.

Son estos emprendedores e innovadores de la IA quienes tienen el poder de dar forma radical a nuestro futuro.

Pero todos somos, en mayor o menor medida, los que hoy debemos participar en la toma de decisiones.

Los sistemas de inteligencia artificial se entrenan con grandes cantidades de información y aprenden a identificar los patrones que contiene para realizar tareas.

Las aplicaciones parecen infinitas y van desde ayudar a los médicos a detectar el cáncer de mama hasta decidir qué mostrarnos en las redes sociales o recomendar qué comprar.

Lo que hemos visto hasta ahora es la punta del iceberg; Sin embargo, en casi cada etapa, además de las maravillas, se han hecho evidentes los peligros, así como la dificultad de combatirlos.

Tomemos, por ejemplo, la IA generativa (que, como ChatGPT y DALL-E, genera texto o imágenes que parecen haber sido creadas por humanos), tiene una legión de seguidores.

Pero entre ellos están creadores de contenido sobre abuso sexual infantil que multiplican sus ganancias sin que las autoridades puedan hacer mucho al respecto.

¿Una consecuencia imprevista?

Quizás, pero la pregunta es de qué tipo, porque ya sea por error o por necesidad imperiosa de interés, son difíciles de excusar.

Por eso, aunque los recientes avances en IA han sido aclamados como revolucionarios, incluso grandes nombres como Elon Musk han abogado por detener su desarrollo.

Temores similares han llevado a dos de los tres científicos conocidos como los padrinos de la IA por sus investigaciones pioneras, Geoffrey Hinton y Yoshua Bengio, a pronunciarse al respecto.

A Stilgoe, que como investigador de la RAI se centra en cómo debemos configurar el desarrollo de la IA en beneficio de las personas, las comunidades y la sociedad, le preocupa “el interés de quienes desarrollan la tecnología en no anticipar las consecuencias”.

En su búsqueda por monetizar sus creaciones, “la gente de IA desarrolla sus sistemas y los libera al mundo, y luego le corresponde a la sociedad descubrir cuáles son las consecuencias y lidiar con ellas.

“Hay una enorme asimetría porque dejamos libres de responsabilidad a los innovadores“.

El científico social afirma que hay casos en los que la IA aporta claramente beneficios, pero cree que debe desarrollarse en el contexto de instituciones confiables, que estén interesadas “no sólo en lo que es bueno para un individuo, sino para la sociedad en general”.

Por tanto, habrá posibilidades de que “la IA no sólo sea eficaz, sino también justa”.

Bueno, como nos advirtió Platón sobre la escritura, cualquier tecnología, por maravillosa que sea, tiene sus defectos.

Haga clic aquí para leer más historias de BBC News World.

• Sobre Chesterton, el principio que obliga a pensar dos veces antes de hacer cambios
• Geoffrey Hinton, el “padrino de la inteligencia artificial”, abandona Google y advierte de los peligros de la nueva tecnología
• El hombre que “ha tenido más impacto en la atmósfera que cualquier otro organismo en la historia de la Tierra”