Archivo de la etiqueta: Inteligencia artificial

Implicaciones de las políticas de IA para las bibliotecas

Lo, L. S. AI policies across the globe: Implications and recommendations for libraries. IFLA Journal, 2023. https://doi.org/10.1177/03400352231196172


Este artículo examina las políticas propuestas de inteligencia artificial de los Estados Unidos, el Reino Unido, la Unión Europea, Canadá y China, y sus implicaciones para las bibliotecas. A medida que la inteligencia artificial revoluciona las operaciones bibliotecarias, presenta desafíos complejos, como dilemas éticos, preocupaciones sobre la privacidad de los datos y cuestiones de acceso equitativo. El artículo destaca temas clave en estas políticas, incluyendo ética, transparencia, el equilibrio entre innovación y regulación, y privacidad de los datos. También identifica áreas de mejora, como la necesidad de pautas específicas para mitigar sesgos en los sistemas de inteligencia artificial y abordar problemas de privacidad de datos. El artículo además ofrece recomendaciones prácticas para que las bibliotecas se involucren con estas políticas y desarrollen mejores prácticas para el uso de la inteligencia artificial. El estudio subraya la necesidad de que las bibliotecas no solo se adapten a estas políticas, sino que también participen activamente en ellas, contribuyendo al desarrollo de una gobernanza de inteligencia artificial más completa y efectiva.

Introducción

«Blueprint for an AI bill of rights» de los Estados Unidos (Oficina de Política de Ciencia y Tecnología, 2022), el «Enfoque proinnovación para la regulación de la IA» del Reino Unido (Secretario de Estado de Ciencia, Innovación y Tecnología, 2023), la Ley de IA de la Unión Europea (Comisión Europea, 2021), la Ley de Inteligencia Artificial y Datos de Canadá (Gobierno de Canadá, 2023) y las «Medidas para la gestión de servicios de inteligencia artificial generativa» de China (Webster, 2023) representan un paso significativo hacia la dirección de abordar las implicaciones éticas de la IA y garantizar un acceso equitativo a las oportunidades. Estas políticas destacan temas clave, como ética, transparencia, el equilibrio entre innovación y regulación, privacidad de datos y la naturaleza del panorama regulatorio. Sin embargo, también revelan áreas de crítica que deben ser abordadas, incluyendo la necesidad de pautas específicas para mitigar los sesgos en los sistemas de IA, abordar problemas de privacidad de datos y determinar el nivel de riesgo asociado con un sistema de IA particular.

Ética y transparencia

«Blueprint» de los Estados Unidos y la Ley de Inteligencia Artificial y Datos de Canadá destacan estos principios, alineándose con los valores fundamentales de las bibliotecas. Las bibliotecas, como guardianes de la información y defensoras de la libertad intelectual, tienen la responsabilidad de asegurarse de que las tecnologías de IA que utilizan sean éticas y transparentes. Sin embargo, la falta de pautas específicas sobre cómo poner en práctica estos principios podría dar lugar a inconsistencias en el uso y la regulación de la IA en diferentes bibliotecas.

De manera similar, la Ley de Inteligencia Artificial y Datos de Canadá pone un fuerte énfasis en la protección de la información personal y promueve la transparencia en el uso de la IA y los datos. Sin embargo, no proporciona una orientación específica sobre cómo las bibliotecas deben abordar los desafíos éticos asociados con el uso de la IA y los datos. Esto podría dar lugar a inconsistencias en cómo se utiliza y regula la IA en diferentes bibliotecas.

En contraste, el Reglamento de la Unión Europea sobre la IA y las «Medidas» de China adoptan un enfoque más integral para la regulación de la IA, que cubre una amplia gama de aplicaciones de la IA y enfatiza la participación de instituciones académicas e investigativas en el desarrollo y uso de la IA. Estas políticas podrían proporcionar un sólido marco regulatorio para que las bibliotecas lo sigan, pero la complejidad de estos actos también podría plantear desafíos para las bibliotecas, especialmente en la implementación de sus disposiciones sobre ética y transparencia.

Innovación frente a regulación

El equilibrio entre fomentar la innovación en la IA y garantizar una regulación adecuada es otro tema clave en las políticas de IA de los Estados Unidos, el Reino Unido, la Unión Europea, Canadá y China. La política del Reino Unido tiende a promover la innovación en la IA, reconociendo el potencial transformador de estas tecnologías. Esto podría ayudar a las bibliotecas a aprovechar la IA para mejorar sus servicios y operaciones. Sin embargo, un «enfoque proinnovación» podría potencialmente llevar a un entorno regulatorio laxo que no proteja adecuadamente a los usuarios de la biblioteca de los riesgos de la IA.

Por otro lado, el Reglamento de la Unión Europea sobre la IA y las «Medidas» de China adoptan un enfoque integral para la regulación de la IA, que abarca una amplia gama de aplicaciones de la IA. Esto podría proporcionar un sólido marco regulatorio para que las bibliotecas lo sigan, pero la complejidad de estos actos también podría plantear desafíos para las bibliotecas, especialmente en la implementación de su enfoque basado en el riesgo para la regulación de la IA.

«Blueprint» de los Estados Unidos y la Ley de Inteligencia Artificial y Datos de Canadá, aunque reconocen la importancia de la innovación en la IA, también enfatizan la necesidad de una regulación adecuada para garantizar el uso ético de la IA y proteger los derechos de los usuarios. Sin embargo, el panorama regulatorio fragmentado en los Estados Unidos y el enfoque estrecho en la privacidad de los datos en la Ley de Canadá podrían dar lugar a inconsistencias en cómo se utiliza y regula la IA en diferentes bibliotecas.

Privacidad de datos

La privacidad de los datos es un enfoque importante de la Ley de Inteligencia Artificial y Datos de Canadá y las «Medidas» de China, lo que refleja la creciente importancia de este tema en la era de la IA y los grandes datos. Este énfasis en la privacidad de los datos es crucial para las bibliotecas, que manejan una gran cantidad de datos sensibles de los usuarios. Sin embargo, la Ley de Inteligencia Artificial y Datos y las «Medidas» no proporcionan orientación específica sobre otros temas importantes relacionados con el uso de la IA en las bibliotecas, como garantizar la equidad y evitar sesgos en los sistemas de IA.

«Blueprint» de los Estados Unidos, aunque reconoce la importancia de la privacidad de los datos, no ofrece una guía clara sobre cómo las bibliotecas deben abordar los desafíos de privacidad de datos asociados con el uso de la IA.

El uso de servicios de terceros, como capas de descubrimiento mejoradas, plantea una preocupación para los bibliotecarios que buscan mantener los principios de la libertad intelectual. Estos sistemas a menudo recopilan datos, a veces identificables personalmente, de los usuarios. Esto a menudo se ve como una parte necesaria para mejorar continuamente un sistema, al proporcionar retroalimentación a través de datos sobre el comportamiento del usuario al navegar para mejorar aún más el sistema.

Regulación fragmentada frente a centralizada

El panorama regulatorio para la IA varía significativamente en los Estados Unidos, el Reino Unido, la Unión Europea, Canadá y China, con algunos países favoreciendo un enfoque más fragmentado y otros optando por una regulación centralizada. Esta distinción tiene importantes implicaciones para las bibliotecas, que deben navegar por estos diversos paisajes regulatorios en su uso de la IA.

Recomendaciones prácticas para las bibliotecas

A medida que las bibliotecas navegan por el complejo panorama de la IA, es crucial que no solo se adapten a las políticas existentes, sino que también participen activamente en ellas y desarrollen mejores prácticas para el uso de la IA. Aquí tienes algunas recomendaciones prácticas para las bibliotecas:

  1. Establecer un comité de ética de la IA: las bibliotecas podrían establecer un comité de ética de la IA que incluya bibliotecarios, personal de tecnología de la información y otros interesados relevantes. Este comité sería responsable de revisar el uso de la IA en la biblioteca, garantizar el cumplimiento de las políticas pertinentes y abordar cualquier problema ético que surja.
  2. Abogar por políticas inclusivas: las bibliotecas deben abogar por políticas de IA que aborden completamente sus necesidades y desafíos. Esto podría implicar participar en consultas públicas sobre políticas de IA, presentar documentos de posición o asociarse con asociaciones de bibliotecas para hacer lobby en favor de políticas inclusivas y equitativas.
  3. Desarrollar mejores prácticas para el uso de la IA: las bibliotecas deben desarrollar mejores prácticas para el uso de la IA que estén en línea con su misión y valores. Estas mejores prácticas podrían abordar una serie de problemas, desde la privacidad de datos y la transparencia hasta el consentimiento del usuario y la mitigación de sesgos en los sistemas de IA.
  4. Proporcionar educación y capacitación en alfabetización de la IA: las bibliotecas deben ofrecer educación y capacitación en ALFIN de la IA para su personal y usuarios. Esto podría incluir capacitación sobre el uso ético de la IA, la privacidad de datos y cómo cumplir con las políticas relevantes.

Conclusión

La evolución de la IA es un proceso continuo y, paralelamente, las políticas y prácticas de las bibliotecas también deben progresar. Al comprometerse críticamente con estas políticas y contribuir a la evolución de una gobernanza de IA más completa y efectiva, las bibliotecas pueden aprovechar plenamente el potencial de la IA, al tiempo que abordan los desafíos complejos que plantea. Este enfoque proactivo asegurará que las bibliotecas persistan como espacios de confianza, inclusivos para el aprendizaje, el descubrimiento y la participación comunitaria en la era de la IA.

Las recomendaciones prácticas presentadas en este artículo sirven como una guía inicial para que las bibliotecas se involucren con estas políticas y formulen sus propias mejores prácticas para el uso de la IA. Al establecer un comité de ética de la IA, abogar por políticas inclusivas, desarrollar mejores prácticas, proporcionar educación y capacitación en ALFIN de la IA y fomentar la participación en la comunidad bibliotecaria, las bibliotecas pueden navegar eficazmente por el complejo panorama de la IA y contribuir a un futuro de IA más equitativo e inclusivo.

ChatGPT y la inteligencia artificial aumentan la apuesta por la alfabetización mediática

Prothero, Arianna. «ChatGPT and AI Are Raising the Stakes for Media Literacy». Education Week, 18 de abril de 2023, sec. Teaching & Learning, Curriculum. https://www.edweek.org/teaching-learning/chatgpt-and-ai-are-raising-the-stakes-for-media-literacy/2023/04.

El lanzamiento de ChatGPT en noviembre suscitó una gran preocupación sobre cómo podrían utilizarlo los estudiantes para hacer trampa en todo tipo de tareas.

Pero esa preocupación, aunque lógica, ha eclipsado otras cuestiones importantes que los educadores deberían plantearse sobre la inteligencia artificial, como por ejemplo cómo afectará a sus trabajos y a sus alumnos, afirma Daniel Vargas Campos, director de programas curriculares de Common Sense Media, una organización de investigación sin ánimo de lucro que desarrolla programas curriculares y revisa medios digitales.

Una gran pregunta: ¿Cómo cambiará la inteligencia artificial la enseñanza de las habilidades de alfabetización mediática que ayudan a los estudiantes a determinar la intención y la exactitud de los medios que consumen?

¿De qué manera cree que la IA puede cambiar la alfabetización mediática?

Tiene varias facetas. Nos preocupa que, con el auge de la inteligencia artificial, la desinformación vaya a proliferar mucho más en los espacios en línea. Esa es una capa. Otro aspecto, del que se habla menos, es que incluso el auge de la inteligencia artificial ya está poniendo en tela de juicio nuestra concepción de la alfabetización mediática antes incluso de que veamos ejemplos de uso explícito de la inteligencia artificial con fines de desinformación.

Hubo un término que la Organización Mundial de la Salud inventó hace como dos años en medio de la pandemia, la «infodemia». Hay demasiada información ahí fuera, y eso hace difícil distinguir lo que es real de lo que es falso. Eso es lo que está ocurriendo ahora mismo con la inteligencia artificial. El verdadero reto es que, incluso hablando de los posibles efectos negativos que la inteligencia artificial puede tener en el campo de la desinformación, estamos creando un entorno en el que a la gente le resulta más difícil confiar en lo que ve en Internet.

Por poner un ejemplo: Hace unas semanas se hizo viral un vídeo de un espectáculo de travestis en el que aparecían bebés. Intentaba avivar las emociones, como «Oh, eso no debería estar permitido». Pero lo interesante es que la respuesta de la gente fue inmediatamente: «Oh, esto es una profunda falsificación». Resulta que el vídeo era real, era sólo un ejemplo del tipo más común de desinformación, que es información real sacada de contexto.

Ahora bien, el problema es que cuando lo etiquetamos automáticamente como «deep fake», no damos ese paso adicional de poner en práctica nuestras habilidades de alfabetización mediática. Nos saltamos el pensamiento crítico necesario para considerar realmente cuáles son las repercusiones. ¿Qué pretende esta información?

¿Cómo deben cambiar su enfoque los educadores?

Hace falta un cambio. Y este cambio no se debe necesariamente a la IA, sino a que el patrón de búsqueda de información de los jóvenes es diferente. En lo que respecta a la alfabetización mediática, tenemos que actualizar nuestro enfoque para adaptarlo a las experiencias reales de los alumnos antes incluso de sumergirnos en la IA. Tenemos que entender que la mayoría de los niños obtienen sus noticias de las redes sociales y que muchos de los comportamientos y hábitos de búsqueda de información que desarrollan forman parte de una comunidad en línea.

Ahora, cuando se trata de inteligencia artificial, una gran parte de esta conversación es hablar con los jóvenes sobre este tema, pero realmente desde la perspectiva de lo que les preocupa. Porque la IA ya está teniendo muchos impactos negativos en la vida de los niños.

Así que esta es una pregunta sobre cómo actualizar la alfabetización mediática para los próximos cinco, diez años. Y parte de ello es la integración o la adición de estas conversaciones en torno a la alfabetización AI en la forma en que hablamos de la alfabetización mediática.

¿Observa una desconexión entre adultos y niños en lo que respecta a sus mayores preocupaciones sobre la IA?

Especialmente en educación, pasamos directamente a: «Los niños van a usar esto para escribir redacciones, y va a ser plagio». Y nos adelantamos a este caso de uso único. Creo que hay una desconexión porque los niños están participando con este tipo de IA en todo tipo de ámbitos diferentes de su vida digital.

[Por ejemplo, el sitio de redes sociales Discord tiene una IA de resumen. Así que, si estás en un foro en línea, seguir la conversación puede ser muy difícil, especialmente si hay miles de personas comentando algo. Ahora hay una IA que se utiliza para resumir la conversación.

Se trata de cuestiones más profundas que no tienen tanto que ver con el plagio, sino más bien con tu vida social, tu comunidad, ¿cómo puedes identificar los prejuicios? ¿Cómo puedes saber si el texto que se utiliza para compartir información te ofrece una representación exacta de lo que está ocurriendo?

Un gran componente de esto, sólo un consejo general para los profesores, es ¿cómo podemos crear conexiones más significativas entre la alfabetización mediática y el aprendizaje socio-emocional? Es un ámbito que está poco desarrollado. El aprendizaje socioemocional tiene que ver con la autoconciencia, la conciencia social.

La Asociación de Bibliotecas de Investigación (ARL) emite una carta en contra de las peticiones de nuevas restricciones a los derechos de autor en respuesta a la reciente aparición de la inteligencia artificial generativa (IA).

Association of Research Libraries. «ARL, Coalition Partners to Congress: Do Not Restrict the Promise of Generative AI». Accedido 19 de septiembre de 2023. https://www.arl.org/news/arl-coalition-partners-to-congress-do-not-restrict-the-promise-of-generative-ai/.

La Asociación de Bibliotecas de Investigación (ARL) se ha unido hoy a bibliotecas, organizaciones de la sociedad civil y expertos jurídicos y académicos en una carta en la que expresan su preocupación al Congreso por las peticiones de nuevas restricciones a los derechos de autor en respuesta a la reciente aparición de la inteligencia artificial generativa (IA).

La IA generativa tiene el potencial de cumplir la promesa constitucional de la ley de derechos de autor, acelerando el progreso de la ciencia y las artes útiles. Al mismo tiempo, se pide que se modifique la Ley de Propiedad Intelectual de EE.UU. para exigir la autorización de los titulares de los derechos de acceso a los materiales para entrenar los modelos de IA. Este régimen basado en permisos ampliaría el alcance del monopolio tradicional de los derechos de autor; socavaría la competencia en el mercado de la IA al imponer cargas financieras y logísticas que las nuevas empresas o aplicaciones no podrían soportar; y restringiría el potencial de los creadores para utilizar la IA en el desarrollo de nuevas obras de ficción, videojuegos, software, etc.

En su estado actual, la legislación estadounidense sobre derechos de autor es lo suficientemente amplia y flexible como para dar cabida a las nuevas tecnologías y responder a las preocupaciones legítimas de los creadores. Los tribunales deben decidir si una aplicación de IA generativa es o no un uso justo, ya que es el foro adecuado para aplicar las doctrinas de derechos de autor a los patrones de hechos específicos que surgirán del uso de la IA en los próximos años.

Muchas de las cuestiones que plantea la IA generativa quedan fuera del ámbito de la legislación sobre derechos de autor. Por ejemplo, el problema muy real de utilizar la IA para crear deepfakes o desinformación política puede abordarse a través de la legislación existente sobre derecho de publicidad y marcas.

La American Library Association (ALA), Authors Alliance, Chamber of Progress, Creative Commons, Electronic Frontier Foundation, Internet Archive, Public Knowledge, R Street Institute, TechFreedom y Tech:NYC se unieron a la carta, junto con firmantes individuales.

¿Podrían los propietarios de un software de inteligencia artificial percibir derechos de autor?

Cynthia Murrell. «Can Smart Software Get Copyright? Wrong?», Beyond Search, 15 de septiembre de 2023. https://arnoldit.com/wordpress/2023/09/15/can-smart-software-get-copyright-wrong/.

Es oficial: Solamente las personas pueden beneficiarse de los derechos de autor, no las máquinas. JD Supra nos pone al día sobre la inteligencia artificial y las pautas oficiales de derechos de autor cunado dice  “Using AI to Create a Work – Copyright Protection and Infringement” El principio básico funciona en ambas direcciones. Los creadores no pueden obtener derechos de autor sobre material generado por IA a menos que lo hayan modificado lo suficiente como para convertirlo en una obra creativa. Por otro lado, es una violación de la ley publicar contenido generado por IA que se asemeje a una obra protegida por derechos de autor. En cuanto a alimentar algoritmos con medios creados por humanos, eso todavía no está oficialmente en contra de las reglas. Aún.

Así lo expresa:

«Para obtener protección de derechos de autor para una obra que contenga material generado por IA, la obra debe tener suficiente aporte humano, como una modificación suficiente de la aportación de la IA o la selección o disposición humana del contenido de la IA. Sin embargo, la protección de derechos de autor se limitaría a las obras ‘hechos por humanos’. Las solicitudes de derechos de autor pasadas, pendientes y futuras deben identificar explícitamente el elemento humano y renunciar al contenido creado por la IA si es más que menor. Para registros existentes, puede ser necesario un registro complementario. Las obras creadas con IA están sujetas al mismo análisis de infracción de derechos de autor aplicable a cualquier obra. El problema con el uso de IA para crear obras es que las fuentes de las obras originales pueden no estar identificadas, por lo que no se puede llevar a cabo un análisis de infracción hasta que se reciba la carta de cesación y desistimiento. Ningún tribunal ha adoptado aún la teoría de que simplemente el uso de una base de datos de IA significa que la obra resultante sea automáticamente una obra derivada infractora si no es sustancialmente similar a los elementos protegibles en la obra con derechos de autor».

El artículo cita Copyright Registration Guidance: Works Containing Material Generated by Artificial Intelligence, 88 Fed. Reg. 16,190 (March 16, 2023).. Señala que estas pautas se basaron en una decisión emitida en febrero, Zarya contra Dawn, que involucró un cómic con contenido generado por IA. La Oficina de Derechos de Autor analizó minuciosamente los elementos, especificando lo siguiente:

«… La selección y disposición de las imágenes y el texto fueron el resultado de la autoría humana y, por lo tanto, son protegibles por derechos de autor, pero las imágenes generadas por IA como resultado de las indicaciones humanas no lo son. Las indicaciones ‘influyeron’, pero no ‘dictaron’, la imagen resultante, por lo que el solicitante no fue el ‘cerebro’ y, por lo tanto, no es el autor de las imágenes. Además, las ediciones realizadas por el solicitante a las imágenes fueron demasiado menores para considerarse protegibles por derechos de autor».

En cuanto a las bases de datos de entrenamiento fundamentalmente basadas en contenido protegido, el artículo señala demandas pendientes de artistas contra empresas como Stability AI, MidJourney y Deviant Art. Se nos dice que esas demandas pueden ser desestimadas por motivos técnicos, pero se nos recomienda estar atentos a casos similares en el futuro.

Cynthia Murrell, 15 de septiembre de 2023.

«Mentiras» en textos generados por Inteligencia Artificial: alucinaciones y omisiones.

Kees van Deemter «“Lying” in Computer-Generated Texts: Hallucinations and Omissions». Library Journal. Accedido 13 de septiembre de 2023. https://www.libraryjournal.com/story/academiclibraries/lying-in-computer-generated-texts-hallucinations-and-omissions-lj230901.

Existe una gran interés en torno a ChatGPT y otros grandes modelos generativos de lenguaje que producen textos fluidos y parecidos a los escritos por humanos en inglés y otros idiomas. Pero estos modelos tienen una gran desventaja, que es que sus textos pueden ser incorrectos en términos de hechos (alucinaciones) y también omitir información clave (omisiones).

Las omisiones son inevitables porque un sistema informático no puede incluir toda la información posiblemente relevante en un texto lo suficientemente corto como para ser leído realmente. En el contexto de resumir información médica para médicos, por ejemplo, el sistema informático tiene acceso a una gran cantidad de datos de pacientes, pero no sabe (y podría argumentarse que no puede saber) qué será más relevante para los médicos.

Las alucinaciones son inevitables debido a fallos en los sistemas informáticos, independientemente del tipo de sistema. Los sistemas que están programados explícitamente sufrirán errores de software (como todos los sistemas de software). Los sistemas que se entrenan con datos, como ChatGPT y otros sistemas en la tradición del Aprendizaje Profundo, «alucinan» aún más. Esto ocurre por una variedad de razones. Quizás lo más obvio es que estos sistemas se retroalimentan con de datos defectuosos (por ejemplo, cualquier sistema que aprenda de Internet estará expuesto a mucha información falsa sobre vacunas, teorías de conspiración, etc.). Y aun si un sistema orientado a los datos pudiera ser entrenado únicamente con textos legítimos que no contengan falsedades, su dependencia de métodos probabilísticos hará que combinaciones de palabras que son muy comunes en Internet también puedan ser producidas en situaciones donde resulten en información falsa.

Supongamos, por ejemplo, que en Internet, la palabra «tos» a menudo va seguida de «… y estornudos». Entonces, un paciente podría ser descrito de manera falsa por un sistema orientado a los datos como «tos y estornudos» en situaciones en las que tose sin estornudar. Problemas de este tipo son un enfoque importante para los investigadores que trabajan en modelos generativos de lenguaje. A dónde nos llevará esta investigación aún es incierto; lo mejor que se puede decir es que podemos intentar reducir el impacto de estos problemas, pero no sabemos cómo eliminarlos por completo.

Lo expuesto anteriormente se centra en problemas no intencionales pero inevitables. También existen casos en los que un sistema informático podría argumentarse que debe alucinar u omitir información. Un ejemplo evidente es la generación de material de marketing, donde se espera omitir información negativa sobre un producto. Un ejemplo más sutil, que hemos visto en nuestro propio trabajo, es cuando la información puede ser perjudicial y es de interés de los usuarios ocultarla o distorsionarla. Por ejemplo, si un sistema informático está resumiendo información sobre bebés enfermos para amigos y familiares, probablemente no debería decirle a una abuela anciana con una afección cardíaca que el bebé puede morir, ya que esto podría desencadenar un ataque al corazón.

Ahora que la precisión factual del texto generado por computadora atrae tanta atención de la sociedad en su conjunto, la comunidad de investigación está comenzando a darse cuenta más claramente que antes de que solo tenemos una comprensión limitada de lo que significa decir la verdad. En particular, no sabemos cómo medir la extensión de la (in)veracidad en un texto dado.

Para comprender lo que se quiere decir, supongamos que dos modelos de lenguaje diferentes responden a la pregunta de un usuario de dos maneras diferentes, generando dos textos de respuesta diferentes. Para comparar el rendimiento de estos sistemas, necesitaríamos una «tarjeta de puntuación» que nos permitiera puntuar objetivamente los dos textos en cuanto a su corrección factual, utilizando una variedad de criterios. Dicha tarjeta de puntuación nos permitiría registrar con qué frecuencia ocurre cada tipo de error en un texto dado y agregar el resultado en una puntuación global de veracidad para ese texto. De particular importancia sería la ponderación de los errores: los errores grandes (por ejemplo, una lectura de temperatura que está muy lejos de la temperatura real) deberían pesar más que los pequeños, los hechos clave deberían pesar más que los asuntos secundarios, y los errores que son realmente engañosos deberían pesar más que las erratas que los lectores pueden corregir por sí mismos. Básicamente, la tarjeta de puntuación funcionaría como un profesor de escuela justo que califica los trabajos de los alumnos.

Se han desarrollado protocolos para que los evaluadores humanos encuentren errores factuales en los textos generados, al igual que otros investigadores, pero aún no es posible crear una tarjeta de puntuación como se describe anteriormente porque no se puede evaluar el impacto de errores individuales.

Lo que se necesita, creemos, es una nueva línea de investigación informada lingüísticamente, que identifique todos los diferentes parámetros de «mentir» de una manera que pueda informar a las tarjetas de puntuación mencionadas anteriormente y que algún día pueda implementarse en un protocolo o algoritmo de verificación de hechos confiable. Hasta ese momento, aquellos de nosotros que intentamos evaluar la veracidad de ChatGPT estaremos avanzando a ciegas.

Stable Diffusion permite que cualquiera pueda generar casi cualquier realidad visual que pueda imaginar con Inteligencia Artificial

Stable Diffusion

La generación de imágenes mediante inteligencia artificial ha alcanzado un nivel impresionante. Gracias a un modelo de síntesis de imágenes de código abierto llamado «Stable Diffusion», prácticamente cualquier persona con un ordenador personal y una GPU competente puede materializar casi cualquier imagen visual que pueda concebir. Este modelo tiene la habilidad de emular una amplia gama de estilos visuales y, al proporcionar una simple descripción, los resultados parecen surgir en la pantalla como por arte de magia.

Esta innovación ha suscitado diversas reacciones entre los artistas, algunos de los cuales están entusiasmados con las posibilidades que ofrece, mientras que otros se sienten preocupados. La sociedad en general todavía no es plenamente consciente de la revolución tecnológica que se está gestando en las comunidades de Twitter, Discord y Github. Podría argumentarse que la síntesis de imágenes posee implicaciones tan trascendentales como la invención de la cámara fotográfica, o incluso la creación misma de las artes visuales. Incluso nuestra comprensión de la historia podría verse afectada por el curso que tomen estos acontecimientos. En cualquier caso, Stable Diffusion lidera una nueva ola de herramientas creativas basadas en el aprendizaje profundo que están a punto de transformar la creación de contenido visual de manera significativa.

Inteligencia Artificial y Biblioteconomía

Frické Martin. «Artificial Intelligence and Librarianship», Open Textbook Library, 2023.

Texto completo

Los cursos sobre Inteligencia Artificial (IA) y Biblioteconomía en las titulaciones de Máster en Biblioteconomía e Información (MLIS) acreditadas por la ALA son escasos. A todos nos han sorprendido ChatGPT y otros modelos similares de «lenguajes extensos». La IA generativa es una nueva área importante para la biblioteconomía. Su desarrollo es tan rápido que nadie puede seguirle el ritmo. Aquellos que intentan producir cursos de IA para el grado MLIS necesitan toda la ayuda que puedan conseguir. Este libro es un gesto de apoyo. Consta de unas 95.000 palabras sobre el tema, con una bibliografía de 3.400 artículos.

Regulación de la inteligencia Inteligencia Artificial en el mundo

Regulation of Artificial Intelligence Around the World
August 2023. The Law Library of Congress, Global Legal Research Directorate, Agosto 2023

Texto completo

Este informe, preparado por el equipo de investigación de la Biblioteca Jurídica del Congreso, presenta una compilación de jurisdicciones a nivel mundial que han implementado o propuesto legislación relacionada específicamente con la inteligencia artificial (IA) o los sistemas que la emplean. Estos investigadores han examinado exhaustivamente todas las jurisdicciones en sus áreas de estudio en busca de este tipo de legislación, y los hallazgos se han registrado en la lista adjunta. Dicha lista se acompaña de citas y breves descripciones de la legislación pertinente.

En el caso de jurisdicciones nacionales, subnacionales y de la Unión Europea (UE), solo se han incluido los instrumentos adoptados o propuestos que tienen un alcance legal efectivo, excluyendo aquellos que no poseen dicho efecto jurídico.

La UNESCO publica orientaciones sobre la IA generativa en la educación y la investigación

Guidance for Generative AI in education and research. Paris: Unesco, 2023

Uno de los componentes de la hoja de ruta de la UNESCO para dirigir el uso centrado en el ser humano de la IA Generativa en la educación, es el desarrollo de una Guía para la IA Generativa en la educación y la investigación, dentro del marco de su iniciativa sobre la IA y los Futuros del Aprendizaje.

Objetivos

La Guía presenta las principales tecnologías de IA generativa y los diversos modelos disponibles en la actualidad. También propone recomendaciones políticas para regular las cuestiones éticas y promover la inclusión y la equidad, así como casos de uso para aprovechar los beneficios de la IA Generativa para el pensamiento de orden superior y la creatividad en la educación y la investigación, al tiempo que se mitigan los riesgos.

La publicación abarca los siguientes elementos

  • Una definición de la IA Generativa
  • Cómo funcionan las distintas categorías de IA Generativa y una lista de diversos modelos de IA Generativa
  • Controversias en torno a la IA Generativa
  • Una hoja de ruta para regular la IA Generativa y elementos clave recomendados para las políticas nacionales sobre IA Generativa en la educación.
  • Co-diseño de los usos de la IA Generativa en la investigación, la enseñanza y el aprendizaje
  • Nuevos modelos de preentrenamiento generativo específicos para la educación (EduGPT) y sus implicaciones.
  • Reflexión sobre las implicaciones a largo plazo de la IA Generativa para la educación y la investigación.

¿Es legal y justo el uso de contenidos protegidos por derechos de autor en modelos de IA

Los modelos de inteligencia artificial se basan en gran medida en contenidos de alta calidad creados por seres humanos, a menudo sujetos a protección por derechos de autor. Sin estos recursos, el rendimiento del modelo sería deficiente. Surge la pregunta de si es legal utilizar obras protegidas por derechos de autor durante la fase de entrenamiento en el desarrollo de un modelo de inteligencia artificial.

Los modelos de IA de gran envergadura, como el GPT-4 de OpenAI, el PaLM 2 de Google y el Llama 2 de Meta, se han construido en parte utilizando una amplia gama de fuentes, que incluyen millones de libros, artículos, conversaciones y otros contenidos disponibles en Internet. Esta práctica ha generado disputas legales por parte de algunos creadores de estos contenidos, quienes argumentan violaciones de derechos de autor, mientras que otros buscan ser compensados por sus contribuciones.

Sin embargo, surge la pregunta de cómo se puede evaluar el valor de un dato específico cuando un modelo de IA ha absorbido una gran parte de lo que ha sido publicado en Internet durante la última década o incluso más. Benedict Evans, analista tecnológico, resalta este desafío en un reciente artículo sobre IA al señalar que el modelo no distingue entre un libro o sitio web en particular, sino que requiere acceso a «todos» los libros y «todos» los sitios web. Esto plantea un dilema, ya que el retiro de contenidos por parte de una empresa no solucionaría el problema si todas lo hicieran.

El concepto de «apalancamiento de datos», como lo describe el profesor Vincent, destaca la importancia de que las comunidades comprendan el valor de sus datos para los modelos de IA, lo que les permitiría negociar de manera más efectiva la compensación por su contribución. Si se puede determinar que el conjunto de todos los libros, por ejemplo, es responsable de una parte significativa del rendimiento de un modelo de IA como ChatGPT, entonces es posible asignar un valor adecuado a esa contribución.

En este contexto, se presenta SILO, un nuevo modelo lingüístico desarrollado por investigadores de instituciones como la Universidad de Washington en Seattle, la UC Berkeley y el Allen Institute for AI. SILO se creó con el objetivo general de minimizar riesgos legales al eliminar datos sensibles, pero también se ha desarrollado una metodología para evaluar la contribución específica de datos a los resultados de un modelo de IA. Esto podría abrir la puerta para que los propietarios de datos reciban el reconocimiento adecuado, o incluso una compensación directa, cada vez que sus datos contribuyan a las predicciones de un modelo. Como se demuestra, el rendimiento de los modelos se ve afectado significativamente si se entrenan solo con texto de bajo riesgo, como libros o documentos gubernamentales sin derechos de autor, debido a las limitaciones en tamaño y cobertura de dominio.

Basado en: Barr, Alistair. «“Data Leverage” and the Harry Potter Test: How Much Is a Single Book Worth to a Giant AI Model?» Business Insider. Accedido 4 de septiembre de 2023. https://www.businessinsider.com/data-leverage-harry-potter-test-putting-value-data-ai-models-2023-8.