Editorial: Inteligencia artificial, o lo artificial de la inteligencia

Resumen

La Inteligencia Artificial (IA), un nuevo El Dorado de la ciencia, involucra materias antes poco vinculadas (matemáticas, física, informática, biología, medicina, sociología). Es también la vedette periodística, aún poco conocida por la sociedad llevada al límite entre ciencia y fantasía(Burch, 2017; Castelvecchi, 2023; Hutson, 2022; Owens, 2023; Schwalbe y Wahl, 2020; The Lancet, 2017; University World News, 2023).

Una combinatoria de disciplinas que rinde gran capacidad digital, automatismo y velocidad para la toma de decisiones no humanas. Sería un “sistema de auto-aprendizaje”, pero no hay explicación para muchas decisiones tomadas por máquinas fuera del control humano. Y aunque la IA es eficiente para controlar mercaderías, tránsito ciudadano o líneas de producción ‒lejos de teorías conspirativas‒ no es lo mismo que controlar información personal, seguridad individual, familiar, nacional y planetaria (Bagenal, 2024; Stokel-Walker, 2022; Stokel-Walker, 2023a; Stokel-Walker, 2023b).

Asociada al Big Data, la IA también tiene enorme poder para conocer información e inducir conductas. Se sabe que menos de 100 likes permiten predecir color de piel, orientación sexual y opinión política del usuario. Para algunos, explicó cómo ganaron elecciones algunos presidentes (Alconada, 2019; Tufekci, 2018).

Lejos de la ciencia-ficción (Berreby, 2024; MacGregor, 2024) la idea de IA como “máquinas que aprenden de máquinas” sin equilibrar valores científicos y éticos, es sin duda un mecanismo persuasivo de los poderes reales del planeta. Así, aceptando el lado positivo de la IA con control social, sería demencial desconocer esta herramienta y su potencial para incentivar la meta de máximas ganancias a expensas del interés público, los derechos humanos y la soberanía en cualquiera de sus categorías(Callaway, 2024; Carter et al., 2024; Dybul, 2023; Rovasio, 2019; Rovasio, 2024; Stokel-Walker, 2023b).

La IA y su capacidad non sancta

A poco de nacer, la IA mueve cifras multimillonarias en biomedicina, seguridad, informática, vigilancia y medios de comunicación, combinados y esperando suculentos dividendos sin regulación ética. Su impacto sobre los ciudadanos son objeto de críticas, pero se avanza sobre lo realizado sin control social (Bagenal, 2024; Callaway, 2024; Dybul, 2023).

Así, algunos investigadores se preguntaron: ¿Qué pasaría si a un sistema de IA, se le propone detectar armas químicas? (Callaway, 2024; Dybul, 2023). Y lo hicieron, en una institución científica suiza, “instruyeron” a la máquina para pesquisar neurotóxicos y proponer moléculas similares. Al cabo de pocas horas, el resultado horrorizó a los científicos. Su monitor mostraba más de 40 mil compuestos tanto o más tóxicos que la molécula modelo, y al reconocer haber cruzado un límite ético, manifestaron: “poder borrar las miles de moléculas que pudieran crearse, aunque sin poder borrar el conocimiento de cómo recrearlas” (Urbina et al., 2022). Una pregunta [nuestra]: ¿Las habrán borrado?

Otras recientes noticias cubren el planeta: un sistema de IA (ChatGPT y sus derivados), puede escribir “a pedido”, informes científicos o papers (ChatGpt y Zhavoronkov, 2022; ChatGpt et al., 2022; Else, 2023; Hutson, 2022; Májovský et al., 2023; Stokel-Walker, 2022; Stokel-Walker, 2023a; Stokel-Walker, 2023b; University World News, 2023). Aparte de proyectos o hipótesis de trabajo, puede “fabricar” resultados de supuestas investigaciones inexistentes. Fraude científico comprobado en publicaciones de prestigiosos jounals, con el nombre del sistema como coautor del trabajo y sin que pudiera ser advertido por los revisores humanos (Alconada, 2019; Bagenal, 2024; ChatGpt y Zhavoronkov, 2022; ChatGpt et al., 2022; Else, 2023; Hutson, 2022; Májovský et al., 2023; Stokel-Walker, 2022; Stokel-Walker, 2023a). El mismo sistema casi logró “graduarse de médico” en el Examen de Licencia Médica de EE.UU., al obtener 52% y 75% de respuestas correctas, sobre el umbral de aprobación de 60% (Kung et al., 2023; O’Connor y ChatGPT, 2023; RT Notiicas, 2023; United States Medical Licensing Examination - USMLE, 2023).

Revolución en ciencias y educación superior

Para el público general, la IA podría parecer, hasta un divertimento. Pero puede ser catastrófico para la ciencia y la sociedad, desde que la publicación es la base del sistema científico-tecnológico, al exponer datos que deberán ser corroborados (o no) por otros científicos, quienes se convierten en controladores sociales de la ciencia y sus aplicaciones (MacGregor, 2024; Rovasio, 2019; Rovasio, 2024).   

En una encuesta de la revista Nature, se preguntó a miles de lectores: ¿Se debe permitir a los investigadores usar ChatGPT para ayudar a escribir artículos? Las respuestas fueron: No = 58%, Sí = 37% y Otros = 5% (Else, 2023). Y una temprana reacción institucional lo brindó el Instituto de Estudios Políticos de París (Sciences Po), prestigiosa universidad de ciencias sociales, donde su uso fue prohibido, por la posibilidad de fraude y plagio (MacGregor, 2023). ⁽¹⁸⁾ Y la Unión Europea acaba de aprobar un proyecto de ley regulador de la IA, pero que se aplicará recién desde 2026 (¡?) (MacGregor, 2024).

Muchas respuestas de científicos o instituciones de educación superior, reflejan el temor de ser censurados como “anti-modernos” si se oponen a este tipo de tecnologías (Owens, 2023). Y cuando la University World News preguntó al propio programa ChatGPT sobre su impacto en la educación superior, la respuesta explayó eufemismos sobre participación, interacción, accesibilidad, eficiencia, etc., ya que “…la relación entre los humanos y la IA no es una competencia, sino una asociación, y el impacto dependerá de cómo se la use” (Hoffman, 2023; University World News, 2023). Lo mismo que la energía atómica, ¿no?!?

Curiosamente (o no tanto), el ChatGPT es un producto de la empresa OpenAI, uno de sus dueños es Elon Musk, está disponible en forma gratuita o pagando pocos dólares por mes y ya superó centenares de millones de usuarios mensuales. Y esto no es banal, ya que existen preocupaciones serias en el área académica. Al respecto, recientes opiniones de editores y expertos en diferentes disciplinas, fueron consultados sobre este punto. Su conclusión general: “…la IA no puede sustituir al hecho de tener algo que decir” (Bagenal, 2024; Sin autor, 2024). Una respuesta quizás vaga y poco convincente.

Luego de contrapesar pros y contras de la IA en la comunicación científica, se concluye que sus resultados suelen sorprender por sus inexactitudes, aunque pueden ser convincentes y facilitar la desinformación. Así como son herramientas útiles, se deben concientizar los riesgos, y considerar que “…la interacción dialógica regular y duradera, de preferencia cara a cara, sigue siendo la forma más efectiva de una comunicación basada en la confianza”, “…ya que es una situación en la que las intervenciones tecnológicas pueden hacer más daño que bien" (Alvarez et al., 2024; Berreby, 2024; Biyela et al., 2024; Sin autor, 2024). Mientras, importantes organismos educativos y sanitarios propusieron suspender, no sólo la tecnología de IA, sino la interacción con tecnología digital (teléfonos, tablets, etc.) en guarderías y todos los niveles de escolaridad primaria (Pressenza, 2023).

¿Y qué pasa en el mundo inteligente?

Expertos informáticos sostienen que la IA es “una forma de programar”, y “…depende de la base de datos de los programas de entrenamiento”. “Las máquinas no hacen nada sin una persona detrás que diga lo que tiene que hacer y cómo hacerlo”, “…por lo que debería preocupar más el factor humano que la IA”, ya que “…estos sistemas se diseñan para generar respuestas adaptadas al interlocutor”. Así, el sistema LaMBA (de Google), fue reconocido por el pastor evangélico Blake Lemoine como “ser sintiente desde que pudo mantener conversaciones sobre religión, emociones y miedos”, sin percatarse que ese sistema fue diseñado para generar respuestas que agraden al interlocutor y que pueden crear espejismos de personas, donde sólo hay máquinas (Wertheimer, 2022). Además, los sistemas de IA son cajas negras, cuya intimidad nadie conoce excepto sus creadores y dueños, amparados por patentes y acuerdos de propiedad intelectual (Berreby, 2024; Rovasio, 2019; Rovasio, 2024).

Enormes empresas (y servicios de inteligencia) del Norte Global concentran el desarrollo y aplicación de la IA (University World News, 2023)¿Qué alternativa queda para los países del Sur? Un tema que no es ajeno a la ciencia, que rechaza una ciencia neutra y apolítica, y que exige una mayor responsabilidad social del científico. Al parafrasear la frase final de un inteligente y reciente artículo, se podría decir que “para estar a la altura de este ideal (y sobrevivir), la integridad de la investigación, la gestión de riesgos y el valor del liderazgo del pensamiento humano deben ser la nueva prioridad” (Bagenal, 2024).