Archivo de la etiqueta: Inteligencia artificial

El futuro de la inteligencia artificial en las bibliotecas: práctica, responsable y centrada en el ser humano

Team, PressReader. «Practical, Responsible and Human-Centered: The Future of AI in Libraries». Accedido 7 de noviembre de 2023. https://blog.pressreader.com/libraries-institutions/practical-responsible-and-human-centered-the-future-of-ai-in-libraries.

Las bibliotecas pueden incorporar tecnologías de IA para mejorar sus servicios. Estas tecnologías emergentes, como la inteligencia artificial, el aprendizaje automático y el procesamiento del lenguaje natural, se volverán aún más ubicuas y se integrarán en nuestra vida diaria, por lo que los sistemas de bibliotecas públicas y bibliotecas universitarias deben prepararse para esta nueva realidad.

En un entorno de biblioteca, la IA puede ser útil para respaldar la investigación académica, optimizar el desarrollo de colecciones y facilitar la toma de decisiones basada en datos, entre otras aplicaciones.

En un informe Urban Libraries Council señaló que busca posicionar la biblioteca como un recurso para la aplicación práctica y responsable de la IA generativa. Gran parte del discurso actual sobre la inteligencia artificial gira en torno a los peligros de su uso irresponsable, los posibles riesgos de seguridad de datos planteados por el uso de ChatGPT y las formas en que la IA puede contribuir a la propagación de la desinformación en línea.

A continuación, se ofrece un breve repaso de algunas de las posibles aplicaciones de la inteligencia artificial, especialmente la automatización basada en IA, en el entorno de la biblioteca:

  • Desarrollo de colecciones: Las bibliotecas pueden automatizar el proceso de agregar libros, recursos digitales y otros materiales al catálogo de la biblioteca. Esto incluye la importación de metadatos, la generación de números de clasificación y la actualización de registros.
  • Gestión de reservas y solicitudes: El proceso de realizar y gestionar reservas de libros y otros materiales puede ser automatizado. Los usuarios pueden reservar artículos en línea, y el sistema les notificará cuando los artículos estén disponibles.
  • Solicitudes de préstamo entre bibliotecas: Las bibliotecas pueden utilizar un sistema automatizado para solicitar y recibir materiales de otras bibliotecas. Esto puede agilizar el proceso de préstamo de elementos que no están disponibles en la colección de la biblioteca.
  • Gestión de cuentas de usuario: Los usuarios pueden gestionar sus propias cuentas de biblioteca en línea, incluyendo la actualización de la información de contacto, el cambio de contraseñas y la renovación de materiales.
  • Análisis de datos y recomendaciones de visitantes: La automatización en las bibliotecas puede recopilar y analizar datos de los usuarios para comprender mejor los patrones de uso y las preferencias, lo que puede informar el desarrollo de colecciones y la planificación de programas, optimizando la gestión de recursos. Los sistemas de recomendación automatizados también pueden sugerir libros y materiales relevantes a los usuarios según sus preferencias y su historial de préstamos.

Los bibliotecarios se enfrentan al desafío De hecho, la mayoría de las bibliotecas han utilizado aplicaciones de IA durante años. Como señala la Asociación de Bibliotecas Universitarias e Investigación (ACRL) en la introducción a su reciente publicación «The Rise of AI«:

«Los bibliotecarios están en una posición única para enfrentar el desafío que la IA presenta en su campo. Las bibliotecas y otras instituciones similares han existido durante milenios; evolucionan con la sociedad, modificando y adaptando sus servicios para satisfacer las necesidades de información de sus comunidades. Las bibliotecas universitarias de hoy en día han ampliado considerablemente sus ofertas digitales, no solo incluyendo libros electrónicos o artículos de revistas, sino también apoyando el descubrimiento y uso de aplicaciones de software. Algunos bibliotecarios universitarios pueden decir que carecen de conocimientos básicos sobre la IA o que no están preparados para hablar sobre el tema, y sin embargo, es probable que hayan estado interactuando con la IA a través de los diferentes tipos de aplicaciones de software que respaldan. Como mínimo, han encontrado y dominado el arte del algoritmo de búsqueda.»

La IA permite a las bibliotecas liderar La ACRL se refiere específicamente a las bibliotecas universitarias, pero Brooks Rainwater, presidente y CEO del Urban Libraries Council, afirma que las bibliotecas públicas también están bien posicionadas para impulsar la innovación.

«A medida que las herramientas de IA generativa se vuelven más accesibles, efectivas y menos costosas, surgen nuevas oportunidades para que las bibliotecas lideren», dice Rainwater. «Si bien existen preocupaciones persistentes que deben abordarse en relación con el uso de la IA para la desinformación, las oportunidades que tenemos frente a nosotros son múltiples. Esto incluye aplicaciones responsables que mejoran la eficiencia, aceleran la comunicación y sirven como una herramienta útil para mostrar y validar los servicios y recursos de la biblioteca.»

¿Por qué la privacidad es una preocupación? Todo se reduce a los datos masivos.

Chris Chiancone, Director de Información de la Ciudad de Carrollton, Texas, señaló en una publicación reciente en LinkedIn que, para funcionar de manera efectiva, los sistemas de IA a menudo dependen de grandes cantidades de datos, datos que pueden incluir información sensible sobre los usuarios. Esto, según Chiancone, plantea preocupaciones válidas sobre la privacidad del usuario y la seguridad de los datos, y las bibliotecas no son inmunes.

«Las bibliotecas tienen la responsabilidad de proteger la información de sus usuarios, y el uso de tecnologías de IA puede complicar esta tarea», escribe. «Por ejemplo, si se utiliza un sistema de IA para recomendar libros a los usuarios de la biblioteca, requeriría acceso a los hábitos de lectura y las preferencias de los usuarios, lo que podría considerarse información sensible.»

Regulación de datos y protección de la privacidad

Las tecnologías de IA están sujetas a las regulaciones existentes de protección de datos y privacidad, que incluyen lo siguiente:

Reglamento General de Protección de Datos (GDPR): Un reglamento integral para las organizaciones que operan dentro de la Unión Europea (UE) y manejan los datos personales de los residentes de la UE. Se centra principalmente en la protección de datos, la privacidad y los derechos de datos personales.

Ley de Privacidad del Consumidor de California (CCPA): Una regulación de privacidad de datos en California que otorga derechos específicos a los consumidores en lo que respecta a su información personal. Requiere que las empresas divulguen sus prácticas de recopilación y compartición de datos, lo que permite a los consumidores optar por no compartir su información personal.

Otras regulaciones regionales: Otros países y regiones también han implementado leyes de protección de datos y privacidad para sistemas de IA como ChatGPT. Por ejemplo, la Ley de Protección de Datos Personales (PDPA) en Singapur y la Lei Geral de Proteção de Dados (LGPD) en Brasil.

Una ley integral de IA Para el momento en que leas estas palabras, es probable que los estados miembros de la UE, el Parlamento Europeo y la Comisión Europea hayan llegado a un acuerdo sobre el texto final de la Ley de IA, promocionada como la primera ley integral de IA del mundo.

La legislación propuesta clasificará las herramientas de IA en función de sus niveles de riesgo, desde mínimo hasta inaceptable. También aborda preocupaciones como la vigilancia biométrica, la desinformación y el uso de lenguaje discriminatorio. Si bien las herramientas de alto riesgo no estarán prohibidas, su uso requerirá una transparencia significativa.

La prioridad del Parlamento para la Ley de IA, que podría convertirse en ley a principios del próximo año, es asegurarse de que los sistemas de IA utilizados en la UE sean «seguros, transparentes, rastreables, no discriminatorios y respetuosos con el medio ambiente. Los sistemas de IA deben ser supervisados por personas, en lugar de por la automatización, para prevenir resultados perjudiciales».

Un enfoque centrado en el ser humano Souvick Ghosh, profesor asistente en la Escuela de Información de la Universidad Estatal de San José, también aboga por un enfoque liderado por las personas en la implementación de la inteligencia artificial en bibliotecas y otras instituciones.

«Las bibliotecas necesitan evolucionar y abrazar la revolución de la IA para que la IA y los sistemas de conversación sean más accesibles y centrados en el ser humano», escribió Ghosh en 2021. «Los chatbots ya se utilizan en varios sitios web para responder preguntas de los usuarios, ofrecer consejos direccionales y guiar a los usuarios hacia recursos relevantes. La implementación de sistemas de conversación en bibliotecas y museos ayudará a los usuarios con sus consultas y aumentará la accesibilidad.»

Asegurar un beneficio para la comunidad ¿Qué prácticas recomendables pueden seguir los profesionales de la información al decidir cómo incorporar estas tecnologías emergentes en las operaciones de la biblioteca? El informe de liderazgo del Urban Libraries Council que mencionamos anteriormente incluye las siguientes cinco sugerencias:

  • Pasar de informar a poner en práctica, como aprovechar las herramientas de IA para mejorar el rendimiento en las sucursales y el diseño de programas.
  • Aprovechar las habilidades de ingeniería de la sugerencia de profesionales de bibliotecas que ya están capacitados para encontrar cuerpos de información utilizando palabras clave o frases.
  • Fomentar la alfabetización en información del personal y los usuarios a través del uso práctico de la IA, como talleres en los que los participantes aprenden a generar cuentos cortos y poesía con IA.
  • Crear una red de inclusión digital centrada en la IA para garantizar un acceso equitativo a los beneficios económicos de las nuevas tecnologías impulsadas por la IA.
  • Abogar por el uso responsable de la IA para asegurarse de que estos avances beneficien a la comunidad en general y que se preserven los estándares fundamentales de educación, innovación y acceso a la información.

Los profesionales de la biblioteca tomarán las riendas La inteligencia artificial y el aprendizaje automático seguirán avanzando, pero los bibliotecarios son tan importantes como siempre, incluso si su papel está evolucionando junto con las herramientas de alta tecnología.

En el sitio web de American Journal Experts, Charla Viera resumió acertadamente esta evolución continua:

«Así como los profesionales de las bibliotecas tomaron las riendas en el desarrollo de los motores de búsqueda y las estrategias necesarias para maniobrar a través de sistemas de catalogación intrincados, también participarán en el diseño de herramientas de descubrimiento de conocimiento impulsadas por la inteligencia artificial. Luego, tomarán la iniciativa para educar al público sobre cómo localizar e interactuar con estas herramientas de IA.»

El futurista Ray Kurzweil alguna vez describió al bibliotecario como «el líder natural de la era de la información que se está desarrollando». En marzo de 1993 (hace más de 30 años), Kurzweil escribió una columna para Library Journal llamada «La Biblioteca Cambiante». En ella, habló sobre cómo podría ser la biblioteca del futuro.

«Por qué siempre necesitaremos bibliotecarios», escribió Kurzweil. «Con libros en forma virtual, transmitidos fácilmente a través del éter de las comunicaciones, la biblioteca virtual emergente no necesitará estar alojada en un edificio», escribió Kurzweil. «Las computadoras seguirán facilitando la eficiencia de la gestión, pero esta función dirigida por humanos no desaparecerá.

«Las dos últimas categorías de servicio de la biblioteca: encontrar conocimiento y pedagogía, se convertirán en el enfoque principal del bibliotecario. Aunque las computadoras competirán en estos roles, hasta que las computadoras sean capaces de igualar nuestra inteligencia, el papel de los humanos en el proceso de gestionar e impartir conocimiento seguirá siendo fundamental».

Los chatbots de Inteligencia Artificial «alucinan» inventándose información entre un 3 y un 27% de las veces

Metz, Cade. «Chatbots May ‘Hallucinate’ More Often Than Many Realize». The New York Times, 6 de noviembre de 2023, sec. Technology. https://www.nytimes.com/2023/11/06/technology/chatbots-hallucination-rates.html.

Los chatbots pueden «alucinar» más de lo que muchos creen. Al resumir hechos, la tecnología ChatGPT se equivoca un 3% de las veces, según un estudio de una nueva empresa. El porcentaje de un sistema de Google era del 27%.

Cuando la startup de San Francisco OpenAI presentó su chatbot en línea ChatGPT a finales del año pasado, millones quedaron impresionados por la forma en que respondía preguntas, escribía poesía y hablaba sobre casi cualquier tema de manera humanizada. Sin embargo, la mayoría de las personas no se dieron cuenta de que este nuevo tipo de chatbot a menudo inventa información.

Cuando Google presentó un chatbot similar varias semanas después, soltó tonterías sobre el telescopio James Webb. Al día siguiente, el nuevo chatbot Bing de Microsoft ofreció todo tipo de información falsa sobre Gap, la vida nocturna mexicana y la cantante Billie Eilish. En marzo, ChatGPT citó media docena de casos judiciales falsos al redactar un informe legal de 10 páginas que un abogado presentó a un juez federal de Manhattan.

una nueva empresa llamada Vectara, fundada por ex empleados de Google, está tratando de determinar con qué frecuencia los chatbots se desvían de la verdad. La investigación de la empresa estima que, incluso en situaciones diseñadas para evitarlo, los chatbots inventan información al menos el 3 por ciento del tiempo, y en algunos casos hasta el 27 por ciento.

Los expertos llaman a este comportamiento de chatbot «alucinación». Puede que no sea un problema para las personas que experimentan con chatbots en sus computadoras personales, pero es un problema grave para cualquiera que utilice esta tecnología con documentos judiciales, información médica o datos empresariales sensibles.

Dado que estos chatbots pueden responder a casi cualquier solicitud de una cantidad ilimitada de maneras, no hay forma de determinar de manera definitiva cuánto alucinan. «Tendrías que revisar toda la información del mundo», dijo Simon Hughes, el investigador de Vectara que lideró el proyecto.

Los investigadores argumentan que cuando estos chatbots realizan otras tareas, más allá de la simple condensación de contenidos (resumen), las tasas de alucinación pueden ser aún más altas. El problema radica en que, incluso cuando se les da una tarea sencilla y verificable, estos chatbots tienden a inventar información.

‘ChatGPT Detector’ detecta documentos generados por IA con una precisión sin precedentes

Prillaman, McKenzie. «‘ChatGPT Detector’ Catches AI-Generated Papers with Unprecedented Accuracy». Nature, 6 de noviembre de 2023. https://doi.org/10.1038/d41586-023-03479-4.

Los grandes modelos lingüísticos como ChatGPT pueden generar textos que parecen auténticos a la velocidad del rayo, si bien, la gran mayoría de editores de revistas rechazan los modelos lingüísticos como autores de manuscritos. Por tanto, se necesita inmediatamente un medio para distinguir con precisión el texto generado por humanos del generado por inteligencia artificial (IA).

Según un estudio publicado el 6 de noviembre en Cell Reports Physical Science, una herramienta de aprendizaje automático puede identificar fácilmente cuándo los documentos de química están escritos utilizando el chatbot ChatGPT. El clasificador especializado, que superó a dos detectores de inteligencia artificial (IA) existentes, podría ayudar a las editoriales académicas a identificar documentos creados por generadores de texto de IA.

Se trata de un detector preciso de texto de IA para revistas científicas probando su capacidad en una serie de situaciones complejas, incluido el texto humano de una amplia variedad de revistas de química, el texto de IA del modelo de lenguaje más avanzado disponible públicamente (GPT-4) y, lo que es más importante, el texto de IA generado mediante mensajes diseñados para ocultar el uso de IA. En todos los casos, los textos humanos y de IA se asignaron con gran precisión. El texto generado por ChatGPT puede detectarse fácilmente en las revistas de química; este avance es un requisito previo fundamental para entender cómo afectará la generación automatizada de texto a las publicaciones científicas de ahora en adelante.

«La mayoría de la comunidad de análisis de texto busca un detector realmente general que funcione en cualquier cosa», dice la coautora Heather Desaire, una química de la Universidad de Kansas en Lawrence. Pero al crear una herramienta que se centra en un tipo específico de documento, «realmente estábamos buscando la precisión».

Los hallazgos sugieren que los esfuerzos para desarrollar detectores de IA podrían mejorar al adaptar el software a tipos específicos de escritura, dice Desaire. «Si puedes construir algo rápidamente y fácilmente, entonces no es tan difícil construir algo para diferentes dominios».

Elon Musk presenta a Grok, su chatbot de inteligencia artificial, afirmando que supera a ChatGPT

https://x.ai/

Elon Musk ha presentado a Grok, un chatbot de inteligencia artificial con un «espíritu rebelde» inspirado en «Guía del autoestopista galáctico». El CEO de Tesla, quien advirtió la semana pasada que la IA era «una de las mayores amenazas para la humanidad», anunció que este competidor de ChatGPT estará disponible para sus suscriptores premium en su plataforma X después de las pruebas.

Musk también reveló que Grok tenía acceso a las publicaciones de usuarios en X, una plataforma que él posee, y tiene un gusto por las respuestas sarcásticas.

Musk publicó un aparente ejemplo del tono juguetón de Grok con una captura de pantalla de una consulta al chatbot pidiéndole una «guía paso a paso» para fabricar cocaína. Los cuatro pasos indicados en la respuesta incluyen «obtener un título en química» y «establecer un laboratorio clandestino en una ubicación remota». Sin embargo, el chatbot agrega al final: «¡Solo bromeo! Por favor, no intentes fabricar cocaína en realidad. Es ilegal, peligroso y no es algo que yo animaría».

Musk dijo que Grok, que se encuentra en pruebas iniciales y no está disponible para el público en general, finalmente se lanzará para suscriptores del servicio de suscripción de nivel superior de X, llamado Premium+.

Grok es un verbo acuñado por el escritor de ciencia ficción estadounidense Robert A. Heinlein y, según el diccionario Collins, significa «entender completamente e intuitivamente». Grok ha sido desarrollado por la nueva empresa de IA de Musk, xAI. El equipo de xAI explicó la influencia de «Guía del autoestopista galáctico», la comedia de ciencia ficción de culto del autor británico Douglas Adams, en un blog el sábado.

«Grok es un IA modelado, por lo que está diseñado para responder a casi cualquier cosa e incluso sugerir qué preguntas hacer. Grok está diseñado para responder preguntas con un toque de ingenio y tiene un espíritu rebelde, así que, ¡por favor, no lo uses si odias el humor!»

El equipo de xAI dijo que Grok está impulsado por un modelo de lenguaje amplio (LLM), la tecnología fundamental detrás de los chatbots de IA, llamado Grok-1. El blog mencionó que Grok-1 superó a GPT-3.5, el modelo utilizado en la versión gratuita de ChatGPT, en algunas pruebas, como la resolución de problemas de matemáticas de la escuela intermedia. Sin embargo, xAI dijo que quedaba rezagado con respecto al modelo más poderoso de ChatGPT, GPT-4.

El equipo de xAI dijo que Grok se está poniendo a disposición de un número limitado de usuarios en los Estados Unidos como prototipo, y que «nuevas capacidades y características» se implementarán en los próximos meses. Según el sitio web de Grok, el acceso inicial al chatbot se ofrece a los suscriptores de X como parte de un «programa de acceso anticipado».

Musk cofundó OpenAI, la empresa detrás de ChatGPT, pero se retiró de la empresa en 2018, argumentando que «no estaba de acuerdo con algunas de las cosas que el equipo de OpenAI quería hacer», además de citar compromisos en sus otras empresas. Musk ha expresado temores sobre el ritmo de desarrollo en empresas como OpenAI y en marzo apoyó un llamado a una pausa de seis meses en el desarrollo de sistemas poderosos.

Sin embargo, en julio Musk dijo que una pausa ya no parecía realista y anunció la creación de xAI, que, según él, construiría sistemas de IA «de manera adecuada».

Hablando en la cumbre de seguridad de la IA en Bletchley Park la semana pasada, Musk dijo que la IA era una amenaza para la humanidad, lo que refleja los temores de algunos expertos y ejecutivos de tecnología de que podrían surgir sistemas que evaden el control humano y tomen decisiones que pongan en peligro a la humanidad.

«Quiero decir, por primera vez, tenemos una situación en la que hay algo que va a ser mucho más inteligente que el ser humano más inteligente», dijo Musk.

Luego, el jueves, Musk predijo que la IA, el término para sistemas informáticos que pueden realizar tareas normalmente asociadas con seres inteligentes, reemplazaría todos los trabajos humanos. Hablando con el primer ministro, Rishi Sunak, dijo: «Llegará un punto en el que no se necesitará ningún trabajo».

Fuente: Milmo, Dan, y Dan Milmo Global technology editor. «Elon Musk Unveils Grok, an AI Chatbot with a ‘Rebellious Streak’». The Guardian, 5 de noviembre de 2023, sec. Technology. https://www.theguardian.com/technology/2023/nov/05/elon-musk-unveils-grok-an-ai-chatbot-with-a-rebellious-streak.

Recomendaciones para el uso de Inteligencia Artificial Generativa en la docencia

“Recomendaciones para el uso de Inteligencia Artificial Generativa en la docencia” por Grupo de trabajo de Inteligencia Artificial Generativa de la UNAM. Ciudad de México: UNAM, 2023

Texto completo

Hemos alcanzado una era digital y tecnológica en donde la inteligencia artificial (IA) se ha posicionado como un recurso que está transformando muchos aspectos de la vida en el mundo, la educación no es la excepción. La IA generativa (IAGen) emerge como una herramienta prometedora para mejorar las prácticas educativas. La capacidad de estos sistemas para crear contenido y material personalizado, así como ofrecer experiencias dinámicas de aprendizaje, plantea un enorme potencial. Esta tecnología aporta elementos que pueden convertirse en disruptivos para el proceso de enseñanza y aprendizaje, cuando se utilizan en un marco ético, responsable y bien informado. Durante el transcurso de este año, la Universidad Nacional Autónoma de México (UNAM) ha documentado el interés de varias entidades y dependencias en el tema, de manera que el 14 de agosto de este año se instaló formalmente un grupo de trabajo sobre el uso de estas herramientas en docencia, con el fin de explorar el potencial de IAGen en enseñanza, aprendizaje y evaluación en la institución, así como organizar actividades relativas al tema y emitir recomendaciones que sean de utilidad para el profesorado de la universidad. Este documento es una de estas iniciativas, se presentan recomendaciones prácticas que pretenden ayudar a la incorporación y aprovechamiento de la IA generativa en los espacios de aprendizaje universitarios. Es importante recordar que el campo de la IAGen tiene un crecimiento explosivo a nivel global, por lo que será necesario actualizar estas recomendaciones con el cúmulo de experiencias, investigaciones y recomendaciones que se generen a corto y mediano plazo.

Los editores de revistas publican unas orientaciones sobre el uso de la IA en la publicación científica

Kaebnick, Gregory E., David Christopher Magnus, Audiey Kao, Mohammad Hosseini, David Resnik, Veljko Dubljević, Christy Rentmeester, Bert Gordijn, y Mark J. Cherry. «Editors’ Statement on the Responsible Use of Generative AI Technologies in Scholarly Journal Publishing». Hastings Center Report n/a, n.o n/a. Accedido 2 de noviembre de 2023. https://doi.org/10.1002/hast.1507.

Los editores de siete revistas académicas publicaron recomendaciones sobre el uso responsable de herramientas de inteligencia artificial generativa por parte de autores, revisores y editores. Las recomendaciones prohíben que las herramientas de IA generativa sean consideradas como autores, pero permiten su uso para generar texto e ilustraciones.

«Estas restricciones son necesarias en parte para proteger la calidad académica, como han señalado otras declaraciones, pero también son vitales por razones sociales más amplias», afirmó Gregory E. Kaebnick, autor principal de las recomendaciones y editor del Informe del Hastings Center.

Estas herramientas «tienen el potencial de transformar la publicación académica de maneras que pueden ser perjudiciales pero también valiosas», dice la declaración, que fue publicada en varias de las revistas de bioética y humanidades editadas por los autores y firmantes. Entre los firmantes se encuentran Karen J. Maschke, editora de la revista Ética e Investigación Humana del Hastings Center, y Laura Haupt, editora jefe del Informe del Hastings Center y Ética e Investigación Humana. Seis editores adicionales también son firmantes.

Las cinco recomendaciones son las siguientes:

  1. Las LLMs [modelos de lenguaje grandes] u otras herramientas de IA generativa no deben figurar como autores en los artículos.
  2. Los autores deben ser transparentes sobre su uso de la IA generativa, y los editores deben tener acceso a herramientas y estrategias para garantizar la transparencia de los autores.
  3. Los editores y revisores no deben depender únicamente de la IA generativa para revisar los artículos enviados.
  4. Los editores tienen la responsabilidad final de seleccionar revisores y deben ejercer una supervisión activa de esa tarea.
  5. La responsabilidad final de la edición de un artículo recae en los autores y editores humanos.

Si bien estas recomendaciones son coherentes con las tomadas por el Comité de Ética en Publicación y muchos editores de revistas, difieren en algunos aspectos. Por un lado, abordan las responsabilidades de los revisores hacia los autores. Además, la nueva declaración toma una posición diferente a la de la revista Science, que sostiene que no solo una herramienta de IA generativa no puede ser considerada autora, sino que «el texto generado por ChatGPT (u otras herramientas de IA) no puede ser utilizado en el trabajo, ni pueden los gráficos, imágenes o ilustraciones ser producto de tales herramientas».

«Una prohibición así es demasiado amplia y puede ser imposible de hacer cumplir, en nuestra opinión», afirma la nueva declaración.

Las recomendaciones son preliminares. «No pretendemos haber resuelto las numerosas cuestiones sociales que creemos que la IA generativa plantea para la publicación académica, pero en aras de fomentar una conversación más amplia sobre estas cuestiones, hemos desarrollado un conjunto preliminar de recomendaciones sobre la IA generativa en la publicación académica», señala la declaración. «Esperamos que las recomendaciones y argumentos aquí establecidos ayuden a la comunidad académica a avanzar hacia una comprensión más profunda de las fortalezas, limitaciones y desafíos de la IA para el trabajo académico responsable».

Consideraciones reglamentarias sobre inteligencia artificial para la salud

Regulatory considerations on artificial intelligence for health. World Health Organization, 2023

Texto completo

En un esfuerzo por gestionar de forma responsable el rápido auge de las tecnologías sanitarias de IA, la OMS ha esbozado seis áreas de regulación de la IA para la salud, incluida la importancia de la transparencia y la documentación, la gestión de riesgos, la validación de datos, el uso previsto, la calidad de los datos, la privacidad y la protección de datos, y el fomento de la colaboración.

ChatGPT elabora la guía Enseñar con IA

Teaching with AI

https://openai.com/blog/teaching-with-ai

Open AI empresa creadora de ChatGPT ha publicado una guía para profesores que utilicen ChatGPT en sus clases, que incluye sugerencias, una explicación del funcionamiento de ChatGPT y sus limitaciones, la eficacia de los detectores de IA y los prejuicios.

La herramienta, proporciona recursos adicionales de las principales organizaciones educativas sobre cómo enseñar con y sobre IA, y respuestas a las preguntas más frecuentes de los educadores sobre temas como el funcionamiento de ChatGPT, sus limitaciones, la eficacia de los detectores de IA y los prejuicios.

Cómo utilizan los profesores ChatGPT

  1. Interpretación de conversaciones difíciles
    La Dra. Helen Crompton, catedrática de Tecnología Educativa en la Universidad Old Dominion, anima a sus estudiantes de postgrado en educación a utilizar ChatGPT como un sustituto de una persona concreta, como un compañero de debate que les señalará los puntos débiles de sus argumentos, un reclutador que les está entrevistando para un trabajo o un nuevo jefe que podría darles su opinión de una manera específica. Dice que explorar la información en un contexto de conversación ayuda a los estudiantes a comprender el material con más matices y desde una nueva perspectiva.

2. Crear cuestionarios, exámenes y planes de clase a partir de materiales curriculares
Fran Bellas, profesor de la Universidade da Coruña (España), recomienda a los profesores que utilicen ChatGPT como asistente para elaborar cuestionarios, exámenes y planes de clase. Bellas dice que primero hay que compartir el plan de estudios con ChatGPT y luego pedirle ideas nuevas para los cuestionarios y las lecciones que utilicen ejemplos modernos o culturalmente relevantes. Bellas también recurre a ChatGPT para ayudar a los profesores a asegurarse de que las preguntas que ellos mismos escriben son inclusivas y accesibles para el nivel de aprendizaje de los alumnos. «Si vas a ChatGPT y le pides que cree exámenes de 5 preguntas sobre circuitos eléctricos, los resultados son muy novedosos. Puedes coger esas ideas y hacerlas tuyas».

3. Reducir la dificultad para los no angloparlantes
El Dr. Anthony Kaziboni, Jefe de Investigación de la Universidad de Johannesburgo, da clase a estudiantes que en su mayoría no hablan inglés fuera del aula. Kaziboni cree que el dominio del inglés es una enorme ventaja en el mundo académico, y que los malentendidos, incluso de pequeños detalles de la gramática inglesa, pueden frenar el reconocimiento y las oportunidades de los estudiantes. Anima a sus alumnos a utilizar ChatGPT como ayuda para traducir, mejorar su redacción en inglés y practicar la conversación.

4. Enseñar a los alumnos el pensamiento crítico
Geetha Venugopal, profesora de informática de secundaria en la American International School de Chennai (India), compara la enseñanza de las herramientas de IA con el uso responsable de Internet. En su clase, aconseja a los alumnos que recuerden que las respuestas que da ChatGPT pueden no ser creíbles y exactas todo el tiempo, y que piensen críticamente si deben confiar en la respuesta, y luego confirmen la información a través de otros recursos primarios. El objetivo es ayudarles a «comprender la importancia de trabajar constantemente sus habilidades originales de pensamiento crítico, resolución de problemas y creatividad».

Inteligencia Artificial en la educación: dónde estamos y qué vendrá a continuación

Oxford University Press. «AI in education: where we are and what happens next». Accedido 31 de octubre de 2023. https://corp.oup.com/feature/ai-in-education-where-we-are-and-what-happens-next/.

El año 2023 ha presenciado un notorio crecimiento global en la adopción de la inteligencia artificial (IA), impulsado por la creciente disponibilidad y conciencia de herramientas de IA generativa (IA-G).

Cuando se trata de la educación, ya sea la enseñanza en el aula tradicional o el aprendizaje de idiomas, existen muchas consideraciones sobre lo que este creciente interés en la IA-G podría significar. Por un lado, se están llevando a cabo conversaciones sobre cómo educar a las futuras generaciones en el uso de tecnologías habilitadas por IA e incluso en cómo construirlas. Por otro lado, surge la pregunta apremiante de cómo las tecnologías habilitadas por IA se integran de manera positiva en los enfoques actuales de enseñanza y aprendizaje. Si bien estos dos escenarios a menudo van de la mano, en este informe, nos enfocamos principalmente en el último. Queremos examinar dónde estamos y qué vendrá a continuación y debería venir.

Esta tecnología en desarrollo tiene un gran potencial en la educación, pero la IA-G no es la primera tecnología digital que interrumpe la educación, ni siquiera la primera instancia de la IA que llega al aula. Los recursos digitales, como aquellos que ofrecen aprendizaje adaptativo y personalizado, a veces respaldados por el aprendizaje automático, ya se utilizan en muchos entornos de aprendizaje.

Es necesario acoger la tecnología de la manera correcta, para mejorar la educación para todos. Y es la educación siempre debe impulsar la tecnología, no al revés.

Entendiendo la pedagogía y las cambiantes necesidades de maestros y estudiantes, Se deben desarrollar soluciones que realmente marquen la diferencia en los resultados de aprendizaje y encontrar las mejores formas de avanzar en este camino juntos.

En el centro de esto se encuentran los maestros y la necesidad de apoyarlos con recursos de calidad. El 88% de los maestros a quienes se consultó dijo que se beneficiarían de que se recopilaran información y estudios relevantes en un mismo lugar.

Este informe se basa en nuestra red global de expertos, investigaciones de fuentes confiables y conocimientos de nuestras comunidades de estudiantes, maestros de escuela y maestros de inglés. En el mismo se comparte lo aprendido sobre dónde estamos y se establece lo que los líderes escolares, organismos de educación y gobiernos deben considerar para lo que sucederá a continuación.

Este informe aborda:

  1. Un panorama global La IA ya juega un papel importante en la educación en todo el mundo, pero ¿cómo difiere esto entre los países?
  2. El impacto en los maestros ¿Los maestros son optimistas acerca de la IA? ¿Se sienten preparados, o necesitan más apoyo?
  3. El impacto en el aprendizaje Los estudiantes ya están utilizando la IA, ¿cómo podemos aprovechar los beneficios, enseñar las habilidades adecuadas y protegernos contra los riesgos de la desinformación?
  4. Brecha digital: ¿La IA, un peligro o un nivelador? Muchos no tienen acceso a Internet, y mucho menos a la IA, ¿puede la nueva tecnología ayudar a cerrar las brechas existentes o las profundizará aún más?
  5. ¿Qué sigue? Se presentan cinco recomendaciones para los líderes escolares, organismos de educación y gobiernos sobre cómo asegurarnos de que la educación impulse la tecnología, y no al revés.

El Impacto de la Inteligencia Artificial Generativa en las Bibliotecas: salvaguardando la excelencia, abrazando la innovación

The Impact of Generative AI on Libraries. Clarivate, 2023

Texto completo

Existen preocupaciones y desafíos válidos en torno a la IA generativa, lo que ha llevado a un creciente debate sobre la regulación. Sin embargo, las bibliotecas académicas no pueden pasar por alto su potencial beneficio significativo. Con el objetivo de ofrecer un servicio óptimo a los usuarios, las bibliotecas están explorando cómo sus proveedores y suministradores de confianza pueden utilizar la IA generativa para ayudarles a lograr este objetivo.

Con avances en «descubrimiento conversacional», podemos permitir que las bibliotecas ofrezcan contenido y recomendaciones personalizados y autorizados a sus usuarios sin comprometer los valores fundamentales.

Descarga este informe técnico gratuito y aprenda:

  • Cómo mejorar el descubrimiento y los servicios de usuario enfatizando la transparencia, la acreditación adecuada y los derechos de propiedad intelectual.
  • Cómo mejorar los resultados de aprendizaje en un entorno de aprendizaje más inclusivo y holístico.
  • Cómo simplificar los flujos de trabajo de la biblioteca y potenciar las soluciones bibliotecarias.
  • Cómo mantenerse a la vanguardia de la transformación digital aprovechando los beneficios de la IA generativa en las bibliotecas académicas.