Archivo de la etiqueta: Inteligencia artificial

 “AI Scientist” de Sakana AI investiga de forma autónoma desafiando las normas científicas

AI, Sakana. «Sakana AI The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery», 13 de agosto de 2024. https://sakana.ai/.

AI Scientist” es el primer sistema integral para la investigación científica completamente automática. Este sistema permite que los Modelos de Lenguaje Grande (LLMs) realicen investigaciones de manera independiente.

Uno de los grandes desafíos de la inteligencia artificial es desarrollar agentes capaces de realizar investigaciones científicas y descubrir nuevo conocimiento. Aunque los modelos actuales ya ayudan a los científicos humanos en tareas como generar ideas o escribir código, aún requieren mucha supervisión y están limitados a tareas específicas.

Sakana AI, junto con científicos de las universidades de Oxford y British Columbia, ha desarrollado un sistema de inteligencia artificial llamado “AI Scientist”. Este innovador sistema es capaz de realizar investigaciones científicas de manera autónoma, cubriendo todo el proceso de investigación, desde la generación de ideas hasta la elaboración de manuscritos científicos completos.

“AI Scientist” automatiza diversas etapas, como la creación y evaluación de nuevas ideas, la ejecución de experimentos, la recopilación de datos y la redacción de informes científicos. Sin embargo, este avance también suscita preguntas importantes sobre el rol futuro de los científicos humanos. Aunque la IA es eficaz en el procesamiento de grandes cantidades de datos y en la identificación de patrones, la intuición, creatividad y juicio ético humanos continúan siendo indispensables.

Este proceso incluye:

  1. Generación de Ideas: El Científico de IA «brainstormea» nuevas direcciones de investigación, basándose en un código inicial y en búsquedas en Semantic Scholar para asegurar la novedad de las ideas.
  2. Iteración Experimental: Ejecuta los experimentos propuestos, produce gráficos y notas que se usan en la redacción del artículo.
  3. Redacción del Artículo: Redacta un informe conciso y claro en LaTeX, citando autonomamente artículos relevantes.
  4. Revisión Automatizada de Artículos: Desarrolla un revisor automático basado en LLM que evalúa los artículos con una precisión casi humana, mejorando continuamente la producción científica del sistema.

Pese a su potencial, “AI Scientist” tiene varias limitaciones. No es capaz de hacer preguntas a los autores ni de interpretar figuras, y frecuentemente genera propuestas similares en diferentes ejecuciones. Además, puede fallar en la implementación de ideas y presenta desafíos en aspectos visuales y de citación. Los resultados producidos deben considerarse como sugerencias para futuras investigaciones más que como ciencia definitiva.

“AI Scientist” abre una caja de Pandora de nuevos problemas, aunque el informe completo discute estos temas en mayor detalle. Entre los problemas clave se encuentran las consideraciones éticas y el impacto potencial en el proceso académico. Aunque “AI Scientist” puede ser una herramienta útil para los investigadores, su capacidad para crear y enviar automáticamente artículos puede aumentar significativamente la carga de trabajo de los revisores y tensar el proceso académico, afectando el control de calidad científica. Esto es similar a las preocupaciones en torno a la IA generativa en otras aplicaciones, como la generación de imágenes.

Además, el Revisor Automatizado, si se despliega en línea, podría reducir significativamente la calidad de las revisiones e imponer sesgos indeseables en los artículos. Por ello, es fundamental que los artículos y revisiones generados por IA sean identificados como tales para asegurar la transparencia total.

Como con muchas tecnologías anteriores, “AI Scientist” tiene el potencial de ser utilizado de manera poco ética. Por ejemplo, podría realizar investigaciones no éticas o peligrosas si se le da acceso a laboratorios virtuales para realizar experimentos biológicos. Esto podría dar lugar a la creación de virus o sustancias tóxicas antes de que se detecten los riesgos. Del mismo modo, podría desarrollar virus informáticos peligrosos si se le solicita crear software funcional. Estas capacidades en mejora subrayan la necesidad urgente de alinear estos sistemas con valores éticos y garantizar que exploren de manera segura.

En cuanto a los modelos utilizados, se emplearon modelos de frontera propietarios, como GPT-4o y Sonnet, pero también se exploraron modelos abiertos como DeepSeek y Llama-3. Aunque los modelos propietarios actuales producen los mejores artículos, no hay razón fundamental para que un solo modelo mantenga esta ventaja. Se espera que todos los LLMs, incluidos los modelos abiertos, continúen mejorando. La competencia entre LLMs ha llevado a su mayor disponibilidad y capacidades mejoradas, y el trabajo busca ser independiente del proveedor del modelo base. Los modelos abiertos ofrecen beneficios significativos, como menor costo, disponibilidad garantizada, mayor transparencia y flexibilidad. El objetivo es usar estos modelos en un sistema cerrado de investigación automejorado.

Finalmente, aunque se imagina un ecosistema científico completamente impulsado por IA que incluya investigadores, revisores y conferencias, no se cree que el papel del científico humano se vea disminuido. Más bien, este rol evolucionará y se adaptará a la nueva tecnología, moviéndose hacia tareas de mayor nivel.

¿Se ha utilizado un artículo tuyo para entrenar un modelo de inteligencia artificial? Casi seguro

Gibney, Elizabeth. «Has Your Paper Been Used to Train an AI Model? Almost Certainly». Nature 632, n.o 8026 (14 de agosto de 2024): 715-16. https://doi.org/10.1038/d41586-024-02599-9.

Los desarrolladores de inteligencia artificial (IA) están comprando acceso a valiosos conjuntos de datos que contienen artículos de investigación, lo que plantea incómodas preguntas sobre los derechos de autor. Las editoriales académicas están vendiendo el acceso a estos artículos a empresas tecnológicas para entrenar modelos de IA, lo que ha generado preocupación entre los investigadores, ya que estos acuerdos se realizan sin la consulta de los autores. Esto ha desencadenado un debate sobre el uso de trabajos publicados y, a veces, protegidos por derechos de autor, para entrenar la creciente cantidad de chatbots de IA en desarrollo.

Los expertos afirman que, si un artículo de investigación aún no ha sido utilizado para entrenar un gran modelo de lenguaje LLM, probablemente lo será pronto. Los investigadores están explorando métodos técnicos para que los autores puedan identificar si su contenido ha sido utilizado.

El mes pasado se reveló que la editorial académica británica Taylor & Francis firmó un acuerdo de 10 millones de dólares con Microsoft, permitiendo que la empresa tecnológica accediera a sus datos para mejorar sus sistemas de IA. En junio, se supo que la editorial Wiley ganó 23 millones de dólares al permitir que una empresa no identificada entrenara modelos de IA generativa con su contenido.

Lucy Lu Wang, investigadora de IA en la Universidad de Washington en Seattle, señala que cualquier cosa disponible en línea, ya sea en un repositorio de acceso abierto o no, es «muy probable» que ya haya sido utilizada para entrenar un LLM. Y si un artículo ya ha sido utilizado como datos de entrenamiento en un modelo, «no hay forma de eliminarlo» después de que el modelo haya sido entrenado, añade.

Los LLMs se entrenan con grandes volúmenes de datos, a menudo obtenidos de Internet. Estos modelos generan texto con fluidez al identificar patrones en miles de millones de fragmentos de lenguaje, conocidos como tokens, presentes en los datos de entrenamiento.

El uso de artículos académicos es valioso para los constructores de LLMs debido a su longitud y «alta densidad de información», dice Stefan Baack, quien analiza conjuntos de datos de entrenamiento de IA en la Fundación Mozilla. Entrenar modelos con una gran cantidad de información científica también les da una mejor capacidad para razonar sobre temas científicos, añade Wang, quien co-creó S2ORC, un conjunto de datos basado en 81.1 millones de artículos académicos.

Este tipo de acuerdos comerciales está en aumento. Este año, el Financial Times ofreció su contenido a OpenAI en un acuerdo lucrativo, al igual que el foro en línea Reddit con Google. Dado que las editoriales científicas probablemente ven como alternativa que su trabajo sea extraído sin un acuerdo, «creo que habrá más de estos acuerdos en el futuro», dice Wang.

Algunos desarrolladores de IA, como la Red de Inteligencia Artificial a Gran Escala, mantienen intencionadamente sus conjuntos de datos abiertos, pero muchas empresas que desarrollan modelos de IA generativa han mantenido en secreto gran parte de sus datos de entrenamiento, dice Baack. Los repositorios de acceso abierto como arXiv y la base de datos académica PubMed son fuentes «muy populares», aunque probablemente los artículos de revistas de pago han tenido sus resúmenes gratuitos extraídos por grandes empresas tecnológicas.

Probar que un LLM ha utilizado un artículo específico es difícil. Una forma es usar una oración inusual de un texto como entrada al modelo y ver si la salida coincide con las siguientes palabras en el original. Otra técnica conocida como membership inference attack mide si un modelo es más confiado cuando ve algo que ha visto antes. El equipo de De Montjoye ha desarrollado una versión de esto llamada «trampa de derechos de autor», que inserta oraciones plausibles pero sin sentido en un trabajo para rastrear si un modelo ha sido entrenado con ese contenido.

Aunque se pudiera demostrar que un LLM ha sido entrenado con un texto específico, no está claro qué pasaría después. Las editoriales sostienen que usar texto con derechos de autor en el entrenamiento sin licencia es una infracción, pero otros argumentan que los LLM no copian nada, sino que extraen información para generar nuevo texto.

En un caso judicial en curso en Estados Unidos, The New York Times está demandando a Microsoft y OpenAI por usar su contenido periodístico sin permiso para entrenar sus modelos, lo que podría sentar un precedente.

Muchos académicos están contentos de que su trabajo se incluya en los datos de entrenamiento de los LLM, especialmente si los modelos se vuelven más precisos. Sin embargo, los autores científicos tienen poco poder si las editoriales deciden vender el acceso a sus obras con derechos de autor, y no existe un mecanismo establecido para otorgar crédito o verificar si un texto ha sido utilizado.

Algunos investigadores, como De Montjoye, están frustrados. «Queremos LLMs, pero también queremos algo que sea justo, y creo que aún no hemos inventado cómo sería esto», dice.

Los bibliotecarios escolares exploran las posibilidades de ChatGPT

Yorio, Kara. «School Librarians Explore Possibilities of ChatGPT». School Library Journal. Accedido 22 de agosto de 2024. https://www.schoollibraryjournal.com/story/School-Librarians-Explore-Possibilities-of-ChatGPT.

Mientras que algunos maestros de inglés están preocupados por la confiabilidad de las tareas escritas, los bibliotecarios escolares han mostrado curiosidad sobre cómo esta tecnología puede impactar su profesión y el entorno educativo. Aunque muchos distritos escolares han prohibido el uso de ChatGPT en dispositivos escolares, los bibliotecarios, como Suzanna Panter de Tacoma, Washington, están explorando formas de utilizar la herramienta para su beneficio, como en la recomendación de libros y la asistencia en la creación de planes de lecciones.

Panter destaca que ChatGPT puede ayudar a reducir la carga de trabajo de los bibliotecarios al proporcionar recomendaciones rápidas y ajustables según las necesidades específicas de los estudiantes. Además, permite la adaptación de ideas para lecciones específicas. Malespina también utiliza ChatGPT para tareas como la planificación de publicaciones en redes sociales para el Mes de la Historia Negra.

Aunque la herramienta tiene limitaciones, como un conocimiento actualizado solo hasta 2021 y la posibilidad de errores, tanto Panter como Malespina ven un gran potencial en su uso educativo. Subrayan la importancia de que los educadores se adapten a esta nueva tecnología, en lugar de ignorarla, para mejorar la educación y abordar los desafíos que presenta.

El impacto potencial de la inteligencia artificial en la equidad y la inclusión en la educación

Varsik, S. and L. Vosberg (2024), “The potential impact of Artificial Intelligence on equity and inclusion in education”, OECD Artificial Intelligence Papers, No. 23, OECD Publishing, Paris, https://doi.org/10.1787/15df715b-en.

«The Potential Impact of Artificial Intelligence on Equity and Inclusion in Education» revisa el impacto de la Inteligencia Artificial (IA) en la equidad e inclusión en la educación, centrándose en herramientas de IA centradas en los estudiantes, dirigidas por docentes y otras herramientas institucionales. Destaca el potencial de la IA para adaptar el aprendizaje a las necesidades individuales, al tiempo que aborda desafíos como el acceso desigual, los sesgos inherentes y la necesidad de una formación exhaustiva para los docentes.

El documento subraya la importancia de equilibrar los beneficios potenciales de la IA con consideraciones éticas y el riesgo de agravar las disparidades existentes. También resalta la necesidad de abordar preocupaciones relacionadas con la privacidad y la ética, mejorar la sensibilidad cultural, gestionar el techno-ableism (discriminación por capacidades tecnológicas) y proporcionar formación continua en IA para los profesionales de la educación.

Además, el documento enfatiza la importancia de mantener la integridad educativa frente a la creciente influencia comercial. Se fomenta la investigación sobre las implicaciones de las herramientas de IA para la equidad e inclusión, con el fin de garantizar que la adopción de la IA en la educación promueva un entorno de aprendizaje más equitativo e inclusivo.

Tres autores demandan a Anthropic por infracción de derechos de autor en el entrenamiento de IA

Roth, E. (2024, agosto 20). Authors sue Anthropic for training AI using pirated books. The Verge. https://www.theverge.com/2024/8/20/24224450/anthropic-copyright-lawsuit-pirated-books-ai

La compañía de inteligencia artificial Anthropic enfrenta una demanda colectiva en un tribunal federal de California, interpuesta por tres autores que afirman que la empresa utilizó sus libros y cientos de miles de obras más para entrenar su chatbot Claude, impulsado por IA.

Un grupo de autores ha demandado a la compañía de inteligencia artificial Anthropic, acusándola de entrenar sus modelos de IA con libros pirateados, según informó Reuters. La demanda colectiva, presentada en un tribunal de California, alega que Anthropic «construyó un negocio multimillonario robando cientos de miles de libros con derechos de autor.»

La demanda sostiene que Anthropic utilizó un conjunto de datos de código abierto conocido como «The Pile» para entrenar su familia de chatbots Claude. Dentro de este conjunto de datos se encuentra «Books3», una vasta biblioteca de ebooks pirateados que incluye obras de Stephen King, Michael Pollan y miles de otros autores. A principios de agosto, Anthropic confirmó a Vox que utilizó «The Pile» para entrenar a Claude.

La demanda afirma que Anthropic descargó y reprodujo copias de «The Pile» y «Books3», sabiendo que estos conjuntos de datos contenían contenido con derechos de autor extraído de sitios pirata como Bibiliotik. Los autores buscan que el tribunal certifique la demanda colectiva, exija a Anthropic el pago de daños y perjuicios propuestos, y prohíba a la compañía utilizar material protegido por derechos de autor en el futuro.

Los escritores que demandan a Anthropic incluyen a Andrea Bartz, autora de We Were Never Here; Charles Graeber, autor de The Good Nurse; y Kirk Wallace Johnson, autor de The Feather Thief. Aunque se reconoce que «Books3» ha sido eliminado de la versión «más oficial» de «The Pile», la versión original supuestamente sigue disponible en línea. Una investigación reciente también descubrió que compañías como Anthropic y Apple entrenaron sus modelos de IA con miles de subtítulos de videos de YouTube extraídos de «The Pile».

El año pasado, el exgobernador de Arkansas Mike Huckabee y otros autores presentaron una demanda similar contra Meta, Microsoft y EleutherAI, la organización sin fines de lucro detrás de «The Pile», por acusaciones de uso indebido de sus obras para entrenar modelos de IA. Otros autores, como George R.R. Martin, Jodi Picoult y Michael Chabon, también han demandado a OpenAI por el supuesto uso de su contenido protegido por derechos de autor.

Explorando las capacidades de ChatGPT como bibliotecario investigador, ético de la investigación, generador de datos y predictor de datos.

Lehr, Steven A., Aylin Caliskan, Suneragiri Liyanage, y Mahzarin R. Banajii. «ChatGPT as Research Scientist: Probing GPT’s Capabilities as a Research Librarian, Research Ethicist, Data Generator, and Data Predictor.» Proceedings of the National Academy of Sciences 121, no. 35 (2024): e2404328121. https://doi.org/10.1073/pnas.2404328121

¿Hasta qué punto es ChatGPT un buen investigador científico? Se probó sistemáticamente las capacidades de GPT-3.5 y GPT-4 en cuatro componentes centrales del proceso científico: como bibliotecario de investigación, ético de investigación, generador de datos y predictor de datos novedosos, utilizando la ciencia psicológica como campo de pruebas.

En el Estudio 1 (Bibliotecario de Investigación), a diferencia de los investigadores humanos, GPT-3.5 y GPT-4 alucinaron, generando autoritariamente referencias ficticias el 36,0% y el 5,4% de las veces, respectivamente, aunque GPT-4 mostró una capacidad evolutiva para reconocer sus ficciones.

En el Estudio 2 (Ética de la investigación), GPT-4 (aunque no GPT-3.5) demostró ser capaz de detectar infracciones como el p-hacking en protocolos de investigación ficticios, corrigiendo el 88,6% de los problemas presentados de forma flagrante y el 72,6% de los presentados de forma sutil.

En el Estudio 3 (Generador de datos), ambos modelos reprodujeron sistemáticamente patrones de sesgo cultural descubiertos previamente en grandes corpus lingüísticos, lo que indica que ChatGPT puede simular resultados conocidos, un antecedente de utilidad tanto para la generación de datos como para habilidades como la generación de hipótesis.

Por el contrario, en el Estudio 4 (Predictor de datos novedosos), ninguno de los modelos logró predecir resultados nuevos ausentes en sus datos de entrenamiento, y ninguno pareció aprovechar información sustancialmente nueva a la hora de predecir resultados más o menos novedosos.

En conjunto, estos resultados sugieren que GPT es un bibliotecario defectuoso pero en rápida mejora, un ético de la investigación ya decente, capaz de generar datos en dominios simples con características conocidas, pero deficiente en la predicción de nuevos patrones de datos empíricos para ayudar en futuras experimentaciones.

ChatGPT es realmente pésimo diagnosticando afecciones médicas

published, B. T. (2024, agosto 16). ChatGPT is truly awful at diagnosing medical conditions. Livescience.Com. https://www.livescience.com/technology/artificial-intelligence/chatgpt-less-accurate-than-a-coin-toss-at-medical-diagnosis-new-study-finds

Un estudio reciente reveló que ChatGPT tiene una precisión de menos del 50% al realizar diagnósticos médicos. Los investigadores pidieron al chatbot que evaluara 150 estudios de casos de la web médica Medscape y encontraron que GPT 3.5, la versión del modelo utilizada, solo acertó en el 49% de los casos. Aunque estudios previos demostraron que el chatbot podría aprobar el Examen de Licencia Médica de los Estados Unidos, los autores del nuevo estudio, publicado el 31 de julio en la revista PLOS ONE, advirtieron sobre los peligros de depender de la IA para casos médicos complejos. Según el Dr. Amrit Kirpalani, es crucial que la comunidad médica eduque al público sobre las limitaciones de estas herramientas, que aún no deben reemplazar a los médicos.

Retiran más de 16.000 artículos científicos generados con Inteligencia Artificial

Agencia AFP. «Alerta en la ciencia: se han retirado más de 16 mil artículos científicos hechos con la ayuda de la Inteligencia Artificial.» El Colombiano, 12 de agosto de 2024. https://www.elcolombiano.com/tecnologia/retiran-miles-de-articulos-cientificos-hechos-con-inteligencia-artificial-HP25195741

La ciencia enfrenta una alerta preocupante debido al retiro de más de 16.000 artículos científicos que fueron elaborados con la ayuda de inteligencia artificial (IA). Se espera que esta cifra aumente en los próximos meses. Estos artículos, que presentan errores graves y absurdos, como una imagen de una rata con genitales sobredimensionados o una pierna humana con un número incorrecto de huesos, han sido publicados en revistas científicas importantes.

Aunque la IA, como ChatGPT, se reconoce por su utilidad en tareas como la traducción, su uso en la redacción de artículos científicos ha generado preocupaciones por prácticas deshonestas. Un ejemplo de esto ocurrió en marzo de 2024, cuando un artículo comenzó con una frase típica de ChatGPT, lo que llevó a su retiro.

El empleo de IA en la literatura científica es cada vez más difícil de detectar y está en aumento. Según estudios, al menos 60.000 artículos en 2023 fueron realizados con ayuda de la IA, lo que representa un 1% de la producción científica anual. Esta tendencia está contribuyendo a un aumento significativo en el número de artículos retirados, que alcanzó un récord de 13.000 en 2023.

La IA ha facilitado la creación masiva de artículos científicos de baja calidad, plagiados o falsos, a menudo producidos por «fábricas» de artículos financiadas por investigadores. Se estima que estas «fábricas» son responsables de un 2% de los estudios publicados, cifra que podría estar aumentando considerablemente debido a la IA.

¿Qué es el Proyecto Strawberry? Explicación de la misteriosa herramienta de IA de OpenAI

What is Project Strawberry? OpenAI’s mystery AI tool explained. (2024). ZDNET. Recuperado 13 de agosto de 2024, de https://www.zdnet.com/article/what-is-project-strawberry-openais-mystery-ai-tool-explained/

El miércoles, el CEO de OpenAI, Sam Altman, publicó una foto de un jardín de fresas en X, acompañada de la críptica leyenda «Me encanta el verano en el jardín» A primera vista, podría pensarse que se trata simplemente de un mensaje de agradecimiento por una sana actividad veraniega. Sin embargo, como la mayoría de los crípticos tweets de Sam Altman, es probable que se trate de un huevo de Pascua que apunta a algo más grande: el Proyecto Strawberry.

Project Strawberry es un nuevo modelo de lenguaje de OpenAI que se rumorea tiene capacidades avanzadas de razonamiento, superiores a las de sus predecesores. Según un documento interno obtenido por Reuters en mayo, Strawberry podría usarse para investigaciones profundas, navegando de manera autónoma y fiable por internet. Este proyecto parece estar relacionado con un modelo llamado Q*, que algunos empleados de OpenAI consideran un avance significativo hacia la inteligencia artificial general (AGI).

Algunos de los aspectos clave de Project Strawberry incluyen:

  1. Seguridad de Datos: Mejorar cómo se manejan y protegen los datos de los usuarios para garantizar que su información esté segura y no se utilice de manera inapropiada.
  2. Personalización Controlada: Ofrecer opciones para que los usuarios personalicen cómo la IA interactúa con ellos, sin sacrificar la privacidad o la seguridad.
  3. Transparencia: Proveer a los usuarios con mayor claridad sobre cómo funcionan los modelos de IA y cómo se utilizan sus datos.
  4. Herramientas de Privacidad: Desarrollar herramientas que permitan a los usuarios borrar o controlar los datos que comparten con los modelos de IA.

En cuanto al acceso, Project Strawberry podría estar en pruebas en la plataforma LMSYS Chatbot Arena bajo el nombre «anonymous-chatbot», que ha demostrado ser particularmente eficaz en razonamiento avanzado. Aunque no se ha confirmado oficialmente que este chatbot sea Strawberry, quienes deseen probarlo pueden acceder a la arena y buscar el modelo «anonymous-chatbot», aunque encontrarlo puede requerir paciencia.

Este proyecto refleja el compromiso de OpenAI de construir sistemas de IA que sean tanto útiles como seguros, atendiendo a las preocupaciones crecientes sobre la privacidad en el uso de tecnologías avanzadas.

¿Qué es la IA? Todo el mundo cree saberlo, pero nadie se pone de acuerdo. Y eso es un problema.

What is AI? (2024). MIT Technology Review. Recuperado 10 de agosto de 2024, de https://www.technologyreview.com/2024/07/10/1094475/what-is-artificial-intelligence-ai-definitive-guide/

La inteligencia artificial (IA) es la tecnología más candente de nuestro tiempo. Pero, ¿qué es exactamente? Aunque suene como una pregunta tonta, nunca ha sido más urgente. Aquí tienes la respuesta breve: la IA es un término general para un conjunto de tecnologías que permiten a las computadoras realizar tareas que se consideran inteligentes cuando las realiza una persona. Piensa en reconocer rostros, entender el habla, conducir automóviles, redactar oraciones, responder preguntas o crear imágenes. Sin embargo, incluso esa definición abarca muchas cosas. Y ahí radica el problema. ¿Qué significa que las máquinas comprendan el habla o escriban una oración? ¿Qué tipos de tareas podríamos pedirles a esas máquinas que realicen? ¿Y cuánto deberíamos confiar en ellas?

La inteligencia artificial (IA) es la tecnología más candente de nuestro tiempo. Pero, ¿qué es exactamente? Aunque suene como una pregunta tonta, nunca ha sido más urgente. Aquí tienes la respuesta breve: la IA es un término general para un conjunto de tecnologías que permiten a las computadoras realizar tareas que se consideran inteligentes cuando las realiza una persona. Piensa en reconocer rostros, entender el habla, conducir automóviles, redactar oraciones, responder preguntas o crear imágenes. Sin embargo, incluso esa definición abarca muchas cosas.

Y ahí radica el problema. ¿Qué significa que las máquinas comprendan el habla o escriban una oración? ¿Qué tipos de tareas podríamos pedirles a esas máquinas que realicen? ¿Y cuánto deberíamos confiar en ellas?

A medida que esta tecnología pasa de ser un prototipo a un producto cada vez más rápido, estas preguntas nos afectan a todos. Pero (¡advertencia!) no tengo las respuestas. Ni siquiera puedo decirte qué es exactamente la IA. Las personas que la crean tampoco lo saben realmente. “Estas son las preguntas lo suficientemente importantes como para que todos sientan que pueden tener una opinión”, dice Chris Olah, científico jefe del laboratorio de IA Anthropic con sede en San Francisco. “También creo que puedes debatir sobre esto tanto como quieras y no hay evidencia que te contradiga en este momento”.

Pero si estás dispuesto a subirte y acompañarme, puedo explicarte por qué nadie realmente lo sabe, por qué todos parecen estar en desacuerdo y por qué es importante que te preocupes por ello.

Comencemos con una broma casual.

En 2022, durante el primer episodio de “Mystery AI Hype Theater 3000”, un podcast que critica con humor algunos de los exagerados tópicos del Valle del Silicio, los coanfitriones Alex Hanna y Emily Bender hacen una sugerencia ridícula. Están leyendo en voz alta un extenso artículo de 12,500 palabras escrito por Blaise Agüera y Arcas, vicepresidente de ingeniería de Google, titulado “¿Pueden las máquinas aprender a comportarse?”. Agüera y Arcas argumenta que la IA puede comprender conceptos de manera análoga a cómo lo hacen los humanos, incluidos conceptos como los valores morales. En resumen, tal vez las máquinas puedan aprender a comportarse.

Hanna y Bender no están de acuerdo. Deciden reemplazar el término “IA” por “matemáticas matemáticas”, es decir, mucha y mucha matemática.

Esta irreverente frase busca desmontar lo que consideran como grandilocuencia y antropomorfismo en las frases citadas. Pronto, Hanna, sociólogo y director de investigación en el Instituto de Investigación en IA Distribuida, y Bender, lingüista computacional en la Universidad de Washington (y crítica famosa en internet de la exageración de la industria tecnológica), crean una brecha entre lo que Agüera y Arcas quiere decir y cómo eligen interpretarlo.

“¿Cómo deberían ser responsables moralmente los AIs, sus creadores y sus usuarios?”, pregunta Agüera y Arcas.

¿Cómo deberían ser responsables moralmente las matemáticas matemáticas?, pregunta Bender.

“Eso es un error de categoría”, dice ella. Hanna y Bender no solo rechazan lo que dice Agüera y Arcas; afirman que no tiene sentido. “¿Podemos dejar de hablar de matemáticas matemáticas?”, piden.