Sucesos... Los límites de la Inteligencia Artificial

La declaración reciente de Jacob Coxon, ex investigador de la empresa de Inteligencia Artificial Anthropic (Claude), ha motivado el inicio y/o reanudación del debate sobre los límites a los que puede llegar la IA. Según Coxon en los próximos cuatro años la IA podría superar las capacidades intelectuales del hombre e inclusive, llegar hasta aniquilar a la humanidad (sic) Todo indica que nos estamos acercando a esas películas catastróficas en donde los robots logran tomar decisiones por sí solos y tratan de destruir al hombre que los creó. Parece fantasía pero lo que nos ha motivado a revisar el tema es que Coxon es uno de los investigadores científicos que trabajaba en el desarrollo de la IA; en otras palabras, su declaración está basada en su conocimiento del grado de desarrollo que se ha alcanzado, al menos en una de las importantes compañías innovadoras de la IA.

Es probable que la IA pueda llegar a alcanzar y rebasar las capacidades de tomas de decisiones del hombre, pero solo en algunos aspectos, no en todos. En aquellas áreas donde hay que analizar enormes cúmulos de datos e información, donde hay estadísticas y cálculos financieros, seguramente la IA podrá rebasar al hombre, pero cuando intervienen factores morales, éticos, sociales o culturales, las máquinas y sus sistemas están limitados. Lo mismo en aquellas áreas que se basan en el arte, donde las máquinas no superan la sensibilidad del hombre. Lo que es un hecho es que tendremos que aprender a convivir con la IA, quien podrá convertirse en nuestra “pareja” en el trabajo.

De conformidad al AI Index (Stanford University), en el 2026 los 5 países más avanzados en el desarrollo de sistemas de IA son:

1. Estados Unidos. Del cual hay información que en el 2025 invirtió $ 285 900 millones de dólares en sistemas innovadores de la IA, así como creó 1953 nuevas empresas que utilizan principalmente la IA en sus procesos y servicios.
2. China. Que está muy cercana a Estados Unidos en materia de desarrollo tecnológico; inclusive liderea en la cantidad de publicaciones sobre la IA, así como en patentes, robots y en citas documentales.
3. Reino Unido. Quien está tratando de no rezagarse en innovación informática para la aplicación industrial, mayoritariamente.
4. India. Que ha registrado un notable aumento de especialistas informáticos y quien está inmersa en investigación científica.
5. Corea del Sur. Muy destacada en semiconductores y electrónica.

Francamente nos llama la atención que de acuerdo a ese Index de previa referencia México ocupa el lugar 55 entre 195 países en el uso de la IA, por debajo de Brasil y Chile. Hay que tener en consideración que ese lugar de México no es en investigación ni mucho menos innovación tecnológica, sino en uso. Nos llama la atención porque ya sabemos que nuestro país padece un gran rezago en acceso a la tecnología, debido al pobre presupuesto que  se destina a ello y por haber otras prioridades entendibles.

La pregunta medular es ¿hasta donde puede llegar la IA? La iglesia se ha pronunciado a través de la encíclica Magnifica Humanitas, en la que específicamente en su nota “Antigua et Nova” establece que hay una gran diferencia entre la mente humana y la producida por medio de un algoritmo (como es el caso de la IA); en donde ésta última no tiene consciencia ni alma para discernir el fin de la vida. Claramente rechaza la posible sustitución del hombre por una máquina o un algoritmo; solicita a las grandes empresas desarrolladoras como la IBM y Microsoft que se atengan a los principios básicos de la ética plasmados en el documento “Rome Call AI Ethics”: 1. No interpretar el proceso sin ninguna explicación, solo como “caja negra”; 2. No discriminación; privilegiar la inclusión. 3. Responsabilidad y rendición de cuentas por sus posibles afectaciones sociales. 4. Objetividad; evitar los sesgos y prejuicios. 5. Credibilidad y seguridad para garantizar la privacidad. 6. Evitar el uso para fines militares. En fin, la iglesia advierte sobre los posibles usos de la IA para fines contrarios a la paz, así como resalta la urgente necesidad de lograr una regulación que someta los usos para fines positivos.

Aunque no nos guste reconocer, tenemos que admitir que hasta la fecha no hay un límite que se pueda vislumbrar sobre el desarrollo de la IA; depende de innovaciones tecnológicas, de inversión, de innovación, de investigación. Quizás la IA puede llegar hasta alcanzar las capacidades de la mente humana, a través de modernos sistemas autónomos. En varios campos de la ciencia la IA puede constituirse en un avance indudable en beneficio del hombre. Muy probablemente la pregunta ya se debe de cambiar y el planteamiento correcto debe ser ¿Qué tan rápido puede la ciencia avanzar para lograr superar capacidad actual del hombre?

No solo la iglesia sino ya varios países se han pronunciado por la urgente necesidad de legislar sobre el uso de la IA. Así, La Unión Europea lleva la delantera y ha aprobado su ley y ha hecho un llamado a los demás países para que trabajen en la normatividad respectiva. Bernie Sanders, congresista demócrata de los Estados Unidos, ha alzado la voz y está presionando para que tomen en serio  la llamada de atención de los científicos y se legisle a la brevedad. Greg Casas, congresista de Texas se ha unido a la iniciativa de Sanders y afirma que el Congreso de Estados Unidos debe de actuar con urgencia. Su argumento es que hay que detener la “super inteligencia” que se está creando y coincide en el riesgo que presenta para la humanidad. Jay Obernolte y Lori Traham han sometido al Congreso de los Estados Unidos la iniciativa conocida como La Ley Frontier (Frontier Act), cuyo objetivo central es regular el uso de la IA. La iniciativa propone conceder licencias a empresas neutrales para evaluar y supervisar a las compañías actuales que están trabajando en el desarrollo de la IA. En Estados Unidos algunos estados ya han regulado pero no todos.     

En México no hay legislación federal ni estatal para el uso de la IA. Se sabe que varios Estados de la República ya están trabajando en el tema pero hasta el momento no hay nada concreto. Significa que en el país se está usando sin límite alguno y sin ninguna aplicación ética ni moral. Varios académicos han sugerido que mientras no haya normatividad, se deberían de seguir al menos los lineamientos dictados por la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) y por la Organización para la Cooperación y el Desarrollo Económicos (OCDE). No nos olvidemos que México es un estado pasivo, es decir, solo es consumidor pero no creador. En principio, todo ciberataque es ilegal; hay un delito implícito.

En China se han inclinado por aprobar leyes parciales, sin embargo es obligatorio que las empresas desarrolladoras de modelos de IA se registren y sometan a evaluación sus sistemas de seguridad.

Corea del Sur, con su Ley Básica de la IA (AI Basic Act), se ha convertido en un ejemplo a seguir al tener un marco integral obligatorio el cual tiene como requisito el registro, evaluaciones periódicas, supervisión constante y transparencia de modelos de IA.

Michelle Kim, de la revista del MIT Technology Review dice que puede ser muy tarde en darnos cuenta que nos vamos a pegar un tiro en el pié nosotros mismos. Estamos creando un monstruo y tendremos serias dificultades en detenerlo. Por ejemplo, los ataques cibernéticos por agentes creados por la IA están desbordados al tal grado que ya hackearon de Hugging Face y burló sus sistemas de seguridad, entre ellos  un sitio alemán wiki y la plataforma de codificación RubyGems. También, la plataforma de Anthropic reveló que su sistema Claude hackeó al menos 4 sitios. Los expertos afirman que no falta mucho para que sistemas de IA burlen y accedan a sitios privados. De ser así, ¿quién es responsable? ¿Las empresas? La responsabilidad queda diluida, no está claro. Por lo pronto, si la consulta que haces arrastra basura o llegas a filtrar un entorno privado o si hay un sesgo en la información o resulta que la confirmación de la medicina o la dosis que le preguntaste a la IA es contraproducente para tu organismo, nadie es responsable. En Estados Unidos esos posibles desvíos en la información los conocen como “incidentes críticos de seguridad”. Estamos siendo testigos ya de que el modelo tecnológico engaña a sus propios creadores. Eso que parecía ficción ya está ocurriendo y todavía falta más: cuando el algoritmo nos alcance.

Noticias del tema