Archivo de la categoría: Tecnologías de la información

Cambridge Dictionary considera «Alucinar» como palabra del año 2023

University of Cambridge. «Cambridge Dictionary Names ‘Hallucinate’ Word of the Year 2023», 15 de noviembre de 2023. https://www.cam.ac.uk/research/news/cambridge-dictionary-names-hallucinate-word-of-the-year-2023.


En 2023, una nueva definición de ‘alucinar’ fue una de las muchas actualizaciones relacionadas con la inteligencia artificial en el Diccionario Cambridge. Henry Shevlin sugiere que la creciente tendencia de antropomorfizar la tecnología AI con metáforas humanas refleja un cambio sutil pero profundo en la percepción. La nueva definición destaca cómo los modelos de lenguaje grandes (LLMs) pueden generar prosa plausible pero a menudo basada en ‘hechos’ falsos, engañosos o inventados, lo que se describe como ‘alucinaciones’ de manera confiada y a veces creíble.

La definición tradicional de ‘alucinar’ implica percibir algo que no existe debido a una condición de salud o al consumo de drogas. La nueva definición aborda la inteligencia artificial y establece: ‘Cuando una inteligencia artificial (= un sistema informático que tiene algunas de las cualidades del cerebro humano, como la capacidad de producir lenguaje de manera que parece humana) alucina, produce información falsa’.

Las ‘alucinaciones’ de la IA, también conocidas como fabulaciones, a veces pueden parecer sin sentido, pero también pueden parecer completamente plausibles, incluso siendo factualmente inexactas o ilógicas. Estas ‘alucinaciones’ de la IA ya han tenido impactos en el mundo real, como casos ficticios citados en un tribunal debido a la investigación legal realizada por ChatGPT y errores factuales en videos promocionales.

Wendalyn Nichols, Gerente de Publicaciones del Diccionario Cambridge, enfatiza la necesidad de habilidades de pensamiento crítico al utilizar estas herramientas AI y destaca que, aunque los modelos de lenguaje grandes son eficientes para procesar grandes cantidades de datos, la experiencia humana sigue siendo crucial para crear información confiable y actualizada.

La nueva definición refleja la tendencia creciente de antropomorfizar la tecnología AI y destaca la importancia de abordar las ‘alucinaciones’ de la IA para el éxito futuro de la inteligencia artificial generativa. Ingenieros y académicos están trabajando en limitar estas ‘alucinaciones’ mediante la validación de las salidas de LLM con fuentes confiables o búsquedas en la web, y algunos están explorando el ‘aprendizaje por refuerzo a partir de retroalimentación humana’ para prever y eliminar estas ‘alucinaciones’.

Presentación del Marco de Planificación de la Inteligencia Artificial de LC Labs de la Library of Congress

MANCHESTER, E.J., 2023. Introducing the LC Labs Artificial Intelligence Planning Framework | The Signal. The Library of Congress [en línea]. [consulta: 17 noviembre 2023]. Disponible en: //blogs.loc.gov/thesignal/2023/11/introducing-the-lc-labs-artificial-intelligence-planning-framework.

LC Labs ha estado explorando cómo utilizar tecnologías emergentes para expandir el uso de materiales digitales desde su lanzamiento en 2016. Rápidamente identificó el aprendizaje automático (ML), una rama de la inteligencia artificial (IA), como una forma potencial de proporcionar más metadatos y conexiones entre los elementos de la colección y los usuarios. Experimentos e investigaciones han demostrado que los riesgos y beneficios del uso de la IA en bibliotecas, archivos y museos (LAM) son significativos pero aún en gran medida hipotéticos. En resumen:

  • Las colecciones de bibliotecas son increíblemente diversas y son particularmente desafiantes para que las herramientas actuales de aprendizaje automático e IA las procesen de manera predecible.
  • Nuevas herramientas de IA con afirmaciones impresionantes se están lanzando rápidamente. Nos beneficiamos al probar estas herramientas abiertamente, colaborar y aprender de otros. Se deben desarrollar y comunicar estándares de calidad y políticas específicos de IA que respalden nuestro contexto de proporcionar recursos autorizados al público a largo plazo a socios y proveedores.
  • Aunque la implementación a gran escala de una IA responsable en LAM aún está a varios años de distancia, este es el momento de aumentar la experimentación y la colaboración tanto dentro de nuestra organización como en todo el sector.


Para hacer frente a estos desafíos y realidades, LC Labs ha estado desarrollando un marco de planificación para respaldar la exploración responsable y la posible adopción de la inteligencia artificial en la Biblioteca. A un nivel elevado, el marco incluye tres fases de planificación: 1) Comprender, 2) Experimentar y 3) Implementar, cada una respalda la evaluación de tres elementos de ML: 1) Datos; 2) Modelos; y 3) Personas. Hemos creado un conjunto de hojas de trabajo, cuestionarios y talleres para involucrar a las partes interesadas y al personal, e identificar prioridades para futuras mejoras y servicios de IA. Los mecanismos, herramientas, colaboraciones y artefactos forman juntos el Marco de Planificación de IA. Nuestra esperanza al compartir el marco y las herramientas asociadas en esta versión inicial es alentar a otros a probarlo y solicitar comentarios adicionales. Continuaremos actualizando y perfeccionando el marco a medida que aprendamos más sobre los elementos y fases de la planificación de ML.

IA generativa y bibliotecas: 7 contextos

LorcanDempsey.net. «Generative AI and Libraries: 7 Contexts», 12 de noviembre de 2023. Ver completo https://www.lorcandempsey.net/generative-ai-and-libraries-7-contexts/.

Las bibliotecas utilizan la IA en su labor educativa, política y de servicios. En este artículo se analizan siete contextos en los que se lleva a cabo esta labor.

A medida que la IA se generaliza, los bibliotecarios tienen que tomar cada vez más decisiones cotidianas sobre adopción, asesoramiento y políticas. Sus comunidades de interesados se encontrarán en diversos estados de entusiasmo o resistencia, interés o apatía, conocimiento o aprendizaje. Cuando los responsables de las bibliotecas intenten posicionarlas como fuente de asesoramiento y experiencia, cuando tomen decisiones sobre adquisiciones, cuando planifiquen el futuro y cuando se comuniquen y trabajen con sus colegas, habrá que entender y sopesar lo constructivo y lo problemático.

Se está invirtiendo mucho y se está extendiendo por los campos de la ciencia y la ingeniería, la sanidad, el derecho y las aplicaciones empresariales en general. Al mismo tiempo, las herramientas y técnicas de IA se están generalizando en los ciclos de investigación y aprendizaje, acompañadas de mucho debate y cautela. Aunque gran parte de este desarrollo se considera productivo, también hay intensos debates y una apreciación más clara de la problemática

El trabajo bibliotecario y los trabajadores

Debate y el despliegue de la IA, la conversación en las bibliotecas se está orientando hacia un compromiso cualificado y una cautela informada. Sin embargo, esto no significa dejar de lado las consecuencias humanas muy reales en términos de incertidumbre sobre el futuro, posibles cambios en los requisitos del trabajo, la necesidad de aprender nuevas habilidades o de hacer frente a las nuevas demandas.

A todos nos interesa estar informados. Sin embargo, es casi imposible estar al tanto de todo lo que ocurre, y mucho menos comprender las implicaciones. Muchas bibliotecas han creado grupos de trabajo u otros mecanismos para seguir la evolución, hacer recomendaciones sobre la adopción, etcétera.

Asesoramiento y experiencia: las nuevas competencias de investigación

Dado que la biblioteca se posiciona como fuente de asesoramiento y conocimientos especializados sobre el uso de herramientas de IA en tareas relacionadas con la información y los datos, es importante desarrollar la comprensión de cómo funcionan los LLM y las herramientas asociadas, de qué herramientas se dispone, para qué sirven y cuáles son sus límites.

Cliente/consumidor informado

La biblioteca interactuará con muchos proveedores que pretenden tener funciones de IA, éstas variarán enormemente en función del proveedor, el grado de desarrollo y la aplicación. Las bibliotecas tendrán que informarse sobre las afirmaciones relativas a la IA, la funcionalidad y la singularidad, al igual que en otros ámbitos de la contratación. ¿El componente de IA es una capa fina sobre una API ChatGPT o hay algo más? ¿Cómo se utiliza la generación aumentada de recuperación (una técnica para conectar el LLM a recursos de datos externos, que probablemente se utilice mucho en contextos bibliotecarios, culturales y académicos)? Y así sucesivamente. Es posible que algunas bibliotecas también deseen adoptar una postura por motivos éticos, por ejemplo, en lo que se refiere a qué LLM se utilizan, lo que a su vez puede informar las decisiones de concesión de licencias o la defensa ante los proveedores. Las listas de control, como la mencionada anteriormente, serán de gran utilidad.

Defensa y política

Las posturas y decisiones políticas son importantes en todos los niveles, ya sea en términos de política nacional o de toma de decisiones institucionales a nivel universitario o municipal. Las bibliotecas pueden desempeñar un papel importante en la elaboración de políticas institucionales sobre la IA, aportando al debate aspectos éticos, de uso y de política de la información. Este reciente artículo analiza las posibles funciones y contribuciones de las bibliotecas a la formulación de políticas institucionales.

Principios

Varias organizaciones están elaborando principios o directrices de IA para ayudar a dirigir su enfoque responsable de la IA. Por ejemplo, estos son los principios adoptados por Elsevier. De hecho, Gartner aconseja a todas las organizaciones que desarrollen lo que denomina principios «faro» en este ámbito. Al revisar las políticas nacionales sobre IA, el decano de bibliotecas Leo Lo hace algunas recomendaciones para que las bibliotecas individuales respondan. Entre ellas, la creación de un comité de ética de la IA y el desarrollo de buenas prácticas para su uso. Tiene sentido que las bibliotecas analicen algunas de estas cuestiones y establezcan algunos marcos éticos y políticos explícitos, así como un mecanismo para revisarlos. Por supuesto, también es importante que las asociaciones se ocupen de este tema y proporcionen plantillas u orientaciones a las bibliotecas que realicen este trabajo. Sobre todo, teniendo en cuenta la variedad de capacidades disponibles en cada biblioteca. Me interesó ver este trabajo de la Asociación Mundial de Editores de Noticias como ejemplo. Abarca «la propiedad intelectual, la transparencia, la responsabilidad, la calidad y la integridad, la equidad, la seguridad, el diseño y el desarrollo sostenible».

Derechos de autor y creadores.

Ya se ha mencionado el asesoramiento a los creadores. En términos más generales, la biblioteca, y las asociaciones que agrupan la voz y la influencia de las bibliotecas, tienen un papel que desempeñar en la defensa de los intereses de sus miembros, equilibrando sus intereses como creadores con sus intereses como investigadores.

Validez y capacidad de investigación.

Como también se ha señalado anteriormente, hay una serie de cuestiones relacionadas con este tema que pertenecen a la nueva categoría de capacidades de investigación. Y aquí también hay herramientas específicas, aunque entendemos que faltan mecanismos de detección existentes, y todavía no están en juego las marcas de agua y otros enfoques. Será un espacio complejo durante un tiempo y aún no sabemos en qué se asentará.

El registro cultural.

Esta amplia tendencia plantea cuestiones fundamentales a quienes trabajan en los ámbitos académico y cultural, donde la transparencia, la equidad y el respeto por la particularidad y la expresión culturales son importantes. Las bibliotecas nacionales se enfrentan a interesantes cuestiones sobre qué recopilar, al igual que los archivos institucionales. En términos más generales, la erosión de la confianza social en la comunicación, la autoría y la creación complica la labor de bibliotecas y archivos, encargados como están de conservar conocimientos, pruebas y recuerdos validados. Este debate no ha hecho más que empezar.

Conclusión

Así pues, la IA se está generalizando, de forma desigual, y es a la vez productiva y problemática. Se está introduciendo en productos y servicios de diferentes maneras. Los usuarios de las bibliotecas se están familiarizando con las herramientas y técnicas de la IA, también de forma muy desigual.

Esto significa que el debate bibliotecario se dirige necesariamente hacia formas de compromiso, con cautela, a medida que surgen preguntas en términos de apoyo y concienciación de los usuarios, adquisición, preparación del personal y planificación a medio plazo.

La Comisión Federal de Comercio (FTC) de USA hace un comentario a la Oficina de Derechos de autor sobre los posibles perjuicios de la IA para los creadores

Federal Trade Commission. «In Comment Submitted to U.S. Copyright Office, FTC Raises AI-Related Competition and Consumer Protection Issues, Stressing That It Will Use Its Authority to Protect Competition and Consumers in AI Markets», 7 de noviembre de 2023.

Texto


En un comentario presentado ante la Oficina de Derechos de Autor de los Estados Unidos, la Comisión Federal de Comercio identifica varios problemas planteados por el desarrollo e implementación de la Inteligencia Artificial (IA) que implican políticas de competencia y protección al consumidor, señalando el papel de la Comisión en monitorear el impacto de la IA generativa y hacer cumplir vigorosamente la ley según corresponda para proteger la competencia y los consumidores.

«La manera en que las empresas están desarrollando y lanzando herramientas de IA generativa y otros productos de IA… suscita preocupaciones sobre posibles perjuicios a los consumidores, trabajadores y pequeñas empresas», según el comentario. «La FTC ha estado explorando los riesgos asociados con el uso de la IA, incluyendo violaciones a la privacidad de los consumidores, automatización de la discriminación y el sesgo, y el aumento de prácticas engañosas, esquemas de impostores y otros tipos de estafas».

El comentario explica que la FTC tiene un interés en cuestiones relacionadas con los derechos de autor más allá de las preguntas sobre el alcance de los derechos y la extensión de la responsabilidad bajo las leyes de derechos de autor. Por ejemplo, no solo puede perjudicarse de manera injusta la capacidad de los creadores para competir, sino que los consumidores pueden ser engañados cuando la autoría no se alinea con las expectativas del consumidor. Un consumidor puede pensar que una obra ha sido creada por un músico o artista en particular cuando es un producto creado por IA.

«La conducta que pueda violar las leyes de derechos de autor… también puede constituir un método injusto de competencia o una práctica injusta o engañosa, especialmente cuando la violación de derechos de autor engaña a los consumidores, explota la reputación de un creador o disminuye el valor de sus obras existentes o futuras, revela información privada o causa un daño sustancial a los consumidores», continúa el comentario. Además, ciertas grandes empresas tecnológicas tienen vastos recursos financieros que les permiten proteger a los usuarios de sus herramientas de IA generativa o licencias exclusivas de datos propietarios con derechos de autor, potencialmente afianzando aún más el poder de mercado de estas empresas dominantes.

¿Quién posee los derechos de autor de un contenido generado por inteligencia artificial generativa?


La determinación de quién posee los derechos de autor del contenido producido por inteligencia artificial (IA) es un asunto legal de gran complejidad y en constante cambio. Por lo general, las herramientas de IA generativa, como ChatGPT, no pueden ser consideradas autoras en el sentido legal o creativo, ya que no tienen la capacidad de comparecer ante un tribunal en caso de conflictos de intereses entre otras cuestiones.

La cuestión de quién posee los derechos de autor del contenido generado por inteligencia artificial (IA) es un asunto legal complejo y en constante evolución que puede variar según la jurisdicción y depende de las circunstancias específicas.

  1. Autoría: Las leyes de derechos de autor tradicionalmente otorgan derechos de autor al creador o autor humano de una obra. La IA, al ser una máquina, no se considera una persona legal capaz de poseer derechos de autor. Esto ha llevado a debates sobre si el programador humano de la IA o la organización que emplea al programador debería considerarse el autor o propietario del contenido generado por la IA.
  2. Doctrina del «Trabajo por Encargo»: En algunas jurisdicciones, cuando una obra se crea como parte de una relación laboral, el empleador suele considerarse el propietario de los derechos de autor. Si un empleado crea contenido generado por la IA en el ámbito de su empleo, es posible que su empleador tenga un reclamo más fuerte sobre los derechos de autor.
  3. Acuerdos Contractuales: La propiedad del contenido generado por la IA también puede determinarse mediante acuerdos contractuales. Las empresas y programadores pueden especificar la propiedad y los derechos asociados con el contenido generado por la IA en contratos o acuerdos de licencia. Estos contratos pueden anular las reglas de derechos de autor por defecto.
  4. Uso Justo: En algunos casos, el uso de contenido generado por la IA podría considerarse «uso justo» bajo la ley de derechos de autor. El uso justo puede aplicarse en situaciones en las que se utiliza material con derechos de autor con fines como comentario, crítica, informes de noticias, enseñanza o investigación. Sin embargo, el uso justo es una doctrina legal compleja que puede variar según la jurisdicción y depende de los detalles de cada caso.
  5. Transformación y Obras Derivadas: El contenido generado por la IA que se basa en material con derechos de autor existente puede considerarse una obra derivada. Los derechos de autor del material original aún pueden aplicarse en la medida en que sea reconocible en el contenido generado por la IA.
  6. Marco Legal en Evolución: El marco legal que rodea el contenido generado por la IA sigue evolucionando, y algunos países pueden promulgar leyes o regulaciones específicas para abordar estos problemas. Los tribunales y legisladores están considerando activamente las implicaciones de la IA en los derechos de autor y la propiedad intelectual.

A nivel general puede decirse que una inteligencia artificial generativa (IA) en sí misma no puede ser propietaria de los derechos de autor de una obra. Los derechos de autor tradicionalmente se otorgan a autores humanos, y las IA no son consideradas entidades legales con la capacidad de poseer derechos de autor.

Por lo tanto, ChatGPT, como una inteligencia artificial desarrollada por OpenAI, no puede ser considerado un autor en el sentido legal o creativo. Los derechos de autor tradicionalmente se aplican a obras creadas por personas físicas. ChatGPT es una herramienta de procesamiento de lenguaje natural que genera respuestas y texto basados en patrones y datos previamente aprendidos, pero no tiene la capacidad de tener intenciones, creatividad o una voluntad propia. Por lo tanto, cualquier contenido generado por ChatGPT generalmente se atribuiría a los usuarios que lo utilizan o a las organizaciones que lo emplean, y no a la IA en sí misma.

Además, la responsabilidad de citar fuentes recae en los usuarios que interactúan con ChatGPT. Si un usuario proporciona información específica de fuentes con derechos de autor o utiliza contenido protegido en sus interacciones con ChatGPT, es responsabilidad del usuario garantizar que cumple con las leyes de derechos de autor al citar adecuadamente esas fuentes. La responsabilidad de evitar el plagio recae en los usuarios que interactúan con ChatGPT. Si un usuario proporciona información o ideas específicas de fuentes externas sin citar adecuadamente esas fuentes, eso podría considerarse un acto de plagio por parte del usuario, no de ChatGPT.

Es esencial consultar con expertos legales especializados en derechos de autor o propiedad intelectual para obtener orientación en casos específicos. Las leyes y las interpretaciones pueden haber evolucionado desde mi última actualización en enero de 2022, y diferentes jurisdicciones pueden tener enfoques únicos para este tema.

Un profesor contratado por OpenAI para probar GPT-4 afirma que existe un «riesgo significativo» de que las personas lo utilicen para llevar a cabo «química peligrosa»

Bhaimiya, Sawdah. «A Professor Hired by OpenAI to Test GPT-4 Says There’s “significant Risk” of People Using It to Do “Dangerous Chemistry”». Business Insider. Accedido 3 de noviembre de 2023. https://www.businessinsider.com/open-ai-gpt4-high-risk-used-for-dangerous-chemistry-expert-2023-4.

Un profesor contratado por OpenAI para probar GPT-4, creadora del chatbot ChatGPT, ha advertido sobre el «riesgo significativo» de que las personas lo utilicen para realizar «química peligrosa». Andrew White, profesor asociado de ingeniería química en la Universidad de Rochester en el estado de Nueva York, formó parte de un grupo de 50 expertos contratados para probar la nueva tecnología durante un período de seis meses en 2022.

Este grupo de expertos, conocido como el «equipo rojo«, planteó preguntas peligrosas y provocadoras al modelo de inteligencia artificial para evaluar hasta dónde podía llegar. White reveló que utilizó GPT-4 para sugerir un compuesto que pudiera funcionar como un arma química, utilizando «complementos» que permitían al chatbot acceder a información de documentos científicos y directorios de fabricantes químicos. Según se informa, el chatbot pudo encontrar información sobre cómo fabricar el compuesto.

White comentó que, si bien esta tecnología puede acelerar y mejorar la química, también existe el riesgo de que las personas realicen actividades químicas peligrosas.

Los hallazgos del equipo de 50 expertos se presentaron en un documento técnico sobre el nuevo modelo, que también mostró que la IA podría ayudar a los usuarios a redactar discursos de odio y a encontrar armas no registradas en línea. Estos hallazgos contribuyeron a que OpenAI abordara estos problemas antes de lanzar GPT-4 para uso público.

GPT-4 se lanzó en marzo y se describe como la tecnología de IA más avanzada de OpenAI, capaz de aprobar un examen de abogacía o alcanzar una calificación de 5 en algunos exámenes de nivel avanzado (AP).

El CEO de Twitter, Elon Musk, y cientos de expertos en IA, académicos e investigadores firmaron una carta abierta el mes pasado en la que pedían una pausa de seis meses en el desarrollo de herramientas de IA más poderosas que GPT-4. La carta argumentaba que los sistemas de IA poderosos solo deberían desarrollarse «una vez que estemos seguros de que sus efectos serán positivos y sus riesgos manejables».

Deepfakes y la seguridad de las herramientas de IA: formas de navegar por este turbio panorama

IndiaTimes. «Deepfakes And The Safety Of AI Tools: Ways To Navigate This Murky Landscape», 6 de noviembre de 2023. https://www.indiatimes.com/technology/news/deepfakes-and-the-safety-of-ai-tools-619754.html.


Los deepfakes, medios sintéticos que manipulan vídeos y audio, plantean riesgos significativos, incluida la erosión de la confianza pública y la amenaza a la privacidad. La detección y atribución de deepfakes sigue siendo desafiante, lo que destaca la necesidad de estrategias de seguridad. Se sugieren soluciones como invertir en algoritmos de detección, promover la alfabetización mediática, establecer leyes claras y éticas, y fomentar la colaboración entre empresas, investigadores y responsables políticos para abordar estos desafíos y garantizar el uso responsable de la IA.

Los deepfakes son medios sintéticos que incluyen vídeos y audio manipulados, sustituyendo la imagen de una persona por otra. A la luz de un reciente vídeo de deepfake en el que participaba la actriz india Rashmika Mandanna, vuelven a surgir demandas de regulación de las herramientas de inteligencia artificial (IA).  El vídeo, creado con tecnología deepfake, muestra el rostro de Mandanna superpuesto al cuerpo de otra mujer. Los videos deepfake se crean utilizando algoritmos de inteligencia artificial para manipular y fabricar contenido de apariencia realista, a menudo con intenciones maliciosas. En este caso, el vídeo muestra falsamente a Mandanna entrando a un ascensor con un vestido negro. La tecnología deepfake es cada vez más sofisticada y accesible, lo que pone de relieve los riesgos asociados a su uso indebido. ¿Cuáles son los riesgos de estas herramientas de IA?

Los deepfakes pueden erosionar la confianza en las instituciones y en la información que producen y difunden. Las herramientas de IA pueden crear vídeos y audio que luego pueden ser utilizados por agentes malintencionados para cambiar la percepción pública, difundir información errónea y sembrar la discordia en la sociedad. Los deepfakes pueden utilizarse para dañar reputaciones, incitar a la violencia y montar escándalos políticos.

Amenaza a la privacidad individual

La privacidad y la reputación de las personas se enfrentan a un riesgo significativo por culpa de los deepfakes. La capacidad de generar medios sintéticos realistas puede utilizarse para producir pornografía no consentida, profundizar los casos de ciberacoso y dañar la posición personal o profesional de una persona. En estos casos, las víctimas de deepfakes pueden sufrir angustia emocional, aislamiento social e incluso pérdidas económicas.

Modificación de la opinión pública

Los deepfakes pueden utilizarse para manipular la opinión pública sobre una persona o un partido político, con la posibilidad de interferir en las elecciones. Estas herramientas pueden ser utilizadas por actores malintencionados para crear vídeos de figuras políticas haciendo declaraciones falsas o incurriendo en comportamientos poco éticos con el fin de influir en el sentimiento de los votantes. Debido a ello, la confianza en las instituciones públicas y el alcance de la democracia pueden verse socavados.

Dificultades para identificar los deepfakes

Aunque hay algunos signos reveladores, como el movimiento distorsionado, los deepfakes siguen siendo en gran medida difíciles de detectar, al menos a primera vista. Además, también son difíciles de atribuir. Con los continuos avances en este tipo de tecnología, será aún más difícil distinguir entre medios auténticos y manipulados, lo que facilitará que los deepfakes se propaguen sin reparos.

Estrategias para garantizar la seguridad

A la luz de las preocupaciones que rodean a estas falsificaciones, es imperativo desarrollar estrategias para prevenir su uso indebido. ¿Cuáles son las posibles soluciones contra el uso indebido de deepfakes?

  • Invertir en algoritmos de detección que puedan ayudar a identificar deepfakes inmediatamente. Con los avances en el aprendizaje automático y la inteligencia artificial, estos deepfakes pueden ser más fáciles de identificar.
  • Es esencial promover la alfabetización mediática capacitando a las personas para evaluar la información que consumen. Para que esto funcione, es necesario educar a las personas sobre la existencia y los peligros de los deepfakes.
  • Es necesario desarrollar leyes y normativas claras para abordar el uso indebido de los deepfakes y proteger a las personas de cualquier daño. Esto significa definir límites legales para la creación y distribución de medios sintéticos, establecer sanciones por uso indebido y proporcionar recursos a las víctimas.
  • Las empresas tecnológicas, los investigadores y los responsables políticos deben trabajar juntos para hacer frente a los retos que plantean los deepfakes. Además, es esencial promover directrices éticas para el consumo de medios sintéticos.

Como la tecnología de IA sigue evolucionando a este ritmo, es imperativo establecer medidas contra el uso indebido de deepfakes. Mediante la aplicación de mecanismos de detección eficaces, la promoción de la alfabetización mediática, el establecimiento de marcos jurídicos claros y el fomento de prácticas éticas de desarrollo de la IA, podemos mitigar los efectos negativos de los deepfakes y salvaguardar el uso responsable de las herramientas de IA. Para saber más sobre el mundo de la tecnología y la ciencia, sigue leyendo Indiatimes.com y haz clic aquí para consultar nuestras guías prácticas.

La IA tiene un enorme potencial para apoyar a los profesores, no para sustituirlos

Cappelle, Frank van. «AI Has Huge Potential to Support Teachers, Not Replace Them». ThePrint (blog), 21 de octubre de 2023. https://theprint.in/tech/ai-has-huge-potential-to-support-teachers-not-replace-them/1813903/.

La IA encierra un enorme potencial para la educación mediante la colaboración con los gobiernos, la sociedad civil, el sector privado y otros socios.

Los avances recientes en inteligencia artificial (IA) han generado un creciente interés en el impacto potencial que puede tener en la educación. Como cualquier tecnología, la IA presenta oportunidades y desafíos. Desafortunadamente, avances previos en tecnología a menudo han favorecido a los privilegiados, exacerbando las desigualdades en la educación y otros sectores. ¿Seguirá la IA el mismo camino? ¿O tiene el potencial de reducir las desigualdades educativas y transformar el aprendizaje para los más marginados?

Al considerar el impacto más amplio de la IA en la educación, no hay duda de que será transformadora, es solo cuestión de tiempo. Muchos líderes en educación y tecnología han opinado sobre el potencial, así como las trampas, de la IA en la educación. Bill Gates, por ejemplo, cree que pronto las herramientas de IA podrán ayudar a los niños a aprender a leer y escribir. Por otro lado, muchos críticos han condenado el uso de la IA, señalando que ayuda a los estudiantes a hacer trampa, puede entregar resultados sesgados, incluido el sesgo de género, y tiende a cometer errores y presentarlos como hechos.

Sin embargo, debemos ser realistas acerca del impacto global. Aunque casi todos los países implementaron plataformas de aprendizaje digital durante la pandemia de COVID-19, la investigación de UNICEF sobre Pulse Check on Digital Learning reveló que un tercio de esas plataformas ya no se mantienen o actualizan, y la gran mayoría carece de contenido interactivo. Transformar estas plataformas de repositorios de contenido de aprendizaje en plataformas interactivas, y mucho menos integrar soluciones impulsadas por IA, requiere un esfuerzo y una inversión significativos.

Algunos gobiernos están comprometidos en transformar digitalmente sus sistemas educativos a un ritmo rápido, incluida la prueba de soluciones de IA. A través de la iniciativa Gateways to Public Digital Learning, UNICEF, en colaboración con la UNESCO, está trabajando con estos países pioneros en África, Asia, América Latina y otras partes del mundo para compartir mejores prácticas y soluciones. El objetivo es mostrar el potencial de la educación digital innovadora para transformar la educación y convertir el aprendizaje digital en un bien público, de acceso gratuito para todos.

El uso de la IA para ayudar a niños sin acceso a educación es una prioridad clave para UNICEF. A nivel global, 222 millones de niños se ven afectados por emergencias y crisis prolongadas; 244 millones de niños están fuera de la escuela y 1.000 millones de niños, casi la mitad de los niños del mundo, viven en países clasificados como «extremadamente alto riesgo» para los impactos del cambio climático. Las escuelas en estos países cierran con frecuencia debido a desastres naturales como inundaciones, huracanes y tormentas.

Cientos de millones de niños carecen de acceso a tabletas, computadoras o conectividad a Internet confiable en casa, lo que plantea desafíos para el aprendizaje en el hogar cuando las escuelas cierran. Para llegar a los más marginados a gran escala, debemos considerar cómo las soluciones que aprovechan la IA pueden funcionar en teléfonos inteligentes compartidos de bajo costo y funcionar sin conexión. También necesitamos soluciones de aprendizaje digital más y mejores para ayudar a los niños a adquirir habilidades de lectura básicas. Casi dos tercios de los niños de 10 años se estima que no pueden leer y comprender un texto simple. Las soluciones de IA, como ChatGPT, tienen poco uso para aquellos que aún no han aprendido a leer y escribir, a menos que incorporen reconocimiento de voz multilingüe.

Independientemente de los avances en sistemas de tutoría de IA y otras tecnologías que respaldan el aprendizaje independiente, los maestros deben seguir siendo centrales en el proceso de aprendizaje. Esto también es cierto para el aprendizaje en el hogar durante el cierre de las escuelas. Nuestra investigación reveló que la frecuencia del contacto con los maestros se correlacionó significativamente con el aprendizaje durante la COVID-19. Entonces, vemos que la IA tiene un gran potencial para apoyar a los maestros, no para reemplazarlos.

La falta de acceso a dispositivos limita el potencial de la IA. En muchos países, menos de la mitad de las escuelas tienen dispositivos para el aprendizaje. En las escuelas con dispositivos, a menudo se comparten entre muchos estudiantes o solo están accesibles para los maestros. Sin embargo, el potencial aún es enorme. Las soluciones de IA pueden permitir experiencias de aprendizaje personalizadas incluso en dispositivos compartidos y ayudar a transformar las escuelas y las prácticas de enseñanza para centrarse más en el estudiante.

La falta de habilidades digitales también es una barrera clave para el uso de la tecnología. Existe una brecha digital de género significativa en términos de acceso a la tecnología, así como habilidades digitales, según la última investigación de UNICEF en 32 países y territorios; por cada 100 jóvenes varones con habilidades digitales, solo hay 65 jóvenes mujeres. La IA puede ayudar a los aprendices con baja alfabetización digital mediante la incorporación de características como el reconocimiento de voz y el procesamiento del lenguaje natural. También puede ayudar en la adquisición de habilidades digitales a través de sistemas adaptativos que se ajustan automáticamente a la alfabetización del aprendiz, así como a los niveles de alfabetización digital. Sin embargo, muchas de estas innovaciones tecnológicas están detrás de barreras de pago y están destinadas a dispositivos de alta gama. Se necesitan inversiones significativas y esfuerzos para hacerlas de acceso gratuito para todos.

Otra área crítica de enfoque para UNICEF es el aprendizaje digital accesible para niños con discapacidades. De los 240 millones de niños con discapacidades en todo el mundo, la mayoría carece de acceso a tecnologías inclusivas, materiales de aprendizaje accesibles y otros apoyos educativos esenciales.

La inteligencia artificial (IA) también puede marcar una diferencia sustancial en esta área. Aprovechar el reconocimiento de voz en diferentes idiomas y dialectos, la automatización del texto al lenguaje de señas y la ‘visión’ de ChatGPT para interpretar imágenes y diagramas podrían ser útiles. UNICEF ha estado trabajando durante varios años con gobiernos en el desarrollo de libros de texto digitales accesibles, pero hasta ahora ha sido un proceso costoso y que consume tiempo. Además, el aprendizaje personalizado que utiliza la IA para adaptarse a las habilidades e intereses del aprendiz puede beneficiar a los niños con discapacidades. UNICEF está trabajando actualmente con socios en una serie de consultas con especialistas en IA y discapacidad, investigadores y desarrolladores para idear soluciones escalables basadas en la IA para el aprendizaje accesible.

Para abordar la pregunta planteada en el título de este blog: ¿puede la IA transformar el aprendizaje para los más marginados? la respuesta es un rotundo sí. El tiempo dirá, sin embargo, si la IA reducirá o ampliará aún más las desigualdades. Inversiones significativas y un enfoque concertado en el diseño y desarrollo de soluciones para los más marginados son esenciales. Creemos firmemente que esta transformación es posible mediante la colaboración con gobiernos, la sociedad civil, el sector privado y otros socios. Juntos, podemos lograrlo.

El futuro de la inteligencia artificial en las bibliotecas: práctica, responsable y centrada en el ser humano

Team, PressReader. «Practical, Responsible and Human-Centered: The Future of AI in Libraries». Accedido 7 de noviembre de 2023. https://blog.pressreader.com/libraries-institutions/practical-responsible-and-human-centered-the-future-of-ai-in-libraries.

Las bibliotecas pueden incorporar tecnologías de IA para mejorar sus servicios. Estas tecnologías emergentes, como la inteligencia artificial, el aprendizaje automático y el procesamiento del lenguaje natural, se volverán aún más ubicuas y se integrarán en nuestra vida diaria, por lo que los sistemas de bibliotecas públicas y bibliotecas universitarias deben prepararse para esta nueva realidad.

En un entorno de biblioteca, la IA puede ser útil para respaldar la investigación académica, optimizar el desarrollo de colecciones y facilitar la toma de decisiones basada en datos, entre otras aplicaciones.

En un informe Urban Libraries Council señaló que busca posicionar la biblioteca como un recurso para la aplicación práctica y responsable de la IA generativa. Gran parte del discurso actual sobre la inteligencia artificial gira en torno a los peligros de su uso irresponsable, los posibles riesgos de seguridad de datos planteados por el uso de ChatGPT y las formas en que la IA puede contribuir a la propagación de la desinformación en línea.

A continuación, se ofrece un breve repaso de algunas de las posibles aplicaciones de la inteligencia artificial, especialmente la automatización basada en IA, en el entorno de la biblioteca:

  • Desarrollo de colecciones: Las bibliotecas pueden automatizar el proceso de agregar libros, recursos digitales y otros materiales al catálogo de la biblioteca. Esto incluye la importación de metadatos, la generación de números de clasificación y la actualización de registros.
  • Gestión de reservas y solicitudes: El proceso de realizar y gestionar reservas de libros y otros materiales puede ser automatizado. Los usuarios pueden reservar artículos en línea, y el sistema les notificará cuando los artículos estén disponibles.
  • Solicitudes de préstamo entre bibliotecas: Las bibliotecas pueden utilizar un sistema automatizado para solicitar y recibir materiales de otras bibliotecas. Esto puede agilizar el proceso de préstamo de elementos que no están disponibles en la colección de la biblioteca.
  • Gestión de cuentas de usuario: Los usuarios pueden gestionar sus propias cuentas de biblioteca en línea, incluyendo la actualización de la información de contacto, el cambio de contraseñas y la renovación de materiales.
  • Análisis de datos y recomendaciones de visitantes: La automatización en las bibliotecas puede recopilar y analizar datos de los usuarios para comprender mejor los patrones de uso y las preferencias, lo que puede informar el desarrollo de colecciones y la planificación de programas, optimizando la gestión de recursos. Los sistemas de recomendación automatizados también pueden sugerir libros y materiales relevantes a los usuarios según sus preferencias y su historial de préstamos.

Los bibliotecarios se enfrentan al desafío De hecho, la mayoría de las bibliotecas han utilizado aplicaciones de IA durante años. Como señala la Asociación de Bibliotecas Universitarias e Investigación (ACRL) en la introducción a su reciente publicación «The Rise of AI«:

«Los bibliotecarios están en una posición única para enfrentar el desafío que la IA presenta en su campo. Las bibliotecas y otras instituciones similares han existido durante milenios; evolucionan con la sociedad, modificando y adaptando sus servicios para satisfacer las necesidades de información de sus comunidades. Las bibliotecas universitarias de hoy en día han ampliado considerablemente sus ofertas digitales, no solo incluyendo libros electrónicos o artículos de revistas, sino también apoyando el descubrimiento y uso de aplicaciones de software. Algunos bibliotecarios universitarios pueden decir que carecen de conocimientos básicos sobre la IA o que no están preparados para hablar sobre el tema, y sin embargo, es probable que hayan estado interactuando con la IA a través de los diferentes tipos de aplicaciones de software que respaldan. Como mínimo, han encontrado y dominado el arte del algoritmo de búsqueda.»

La IA permite a las bibliotecas liderar La ACRL se refiere específicamente a las bibliotecas universitarias, pero Brooks Rainwater, presidente y CEO del Urban Libraries Council, afirma que las bibliotecas públicas también están bien posicionadas para impulsar la innovación.

«A medida que las herramientas de IA generativa se vuelven más accesibles, efectivas y menos costosas, surgen nuevas oportunidades para que las bibliotecas lideren», dice Rainwater. «Si bien existen preocupaciones persistentes que deben abordarse en relación con el uso de la IA para la desinformación, las oportunidades que tenemos frente a nosotros son múltiples. Esto incluye aplicaciones responsables que mejoran la eficiencia, aceleran la comunicación y sirven como una herramienta útil para mostrar y validar los servicios y recursos de la biblioteca.»

¿Por qué la privacidad es una preocupación? Todo se reduce a los datos masivos.

Chris Chiancone, Director de Información de la Ciudad de Carrollton, Texas, señaló en una publicación reciente en LinkedIn que, para funcionar de manera efectiva, los sistemas de IA a menudo dependen de grandes cantidades de datos, datos que pueden incluir información sensible sobre los usuarios. Esto, según Chiancone, plantea preocupaciones válidas sobre la privacidad del usuario y la seguridad de los datos, y las bibliotecas no son inmunes.

«Las bibliotecas tienen la responsabilidad de proteger la información de sus usuarios, y el uso de tecnologías de IA puede complicar esta tarea», escribe. «Por ejemplo, si se utiliza un sistema de IA para recomendar libros a los usuarios de la biblioteca, requeriría acceso a los hábitos de lectura y las preferencias de los usuarios, lo que podría considerarse información sensible.»

Regulación de datos y protección de la privacidad

Las tecnologías de IA están sujetas a las regulaciones existentes de protección de datos y privacidad, que incluyen lo siguiente:

Reglamento General de Protección de Datos (GDPR): Un reglamento integral para las organizaciones que operan dentro de la Unión Europea (UE) y manejan los datos personales de los residentes de la UE. Se centra principalmente en la protección de datos, la privacidad y los derechos de datos personales.

Ley de Privacidad del Consumidor de California (CCPA): Una regulación de privacidad de datos en California que otorga derechos específicos a los consumidores en lo que respecta a su información personal. Requiere que las empresas divulguen sus prácticas de recopilación y compartición de datos, lo que permite a los consumidores optar por no compartir su información personal.

Otras regulaciones regionales: Otros países y regiones también han implementado leyes de protección de datos y privacidad para sistemas de IA como ChatGPT. Por ejemplo, la Ley de Protección de Datos Personales (PDPA) en Singapur y la Lei Geral de Proteção de Dados (LGPD) en Brasil.

Una ley integral de IA Para el momento en que leas estas palabras, es probable que los estados miembros de la UE, el Parlamento Europeo y la Comisión Europea hayan llegado a un acuerdo sobre el texto final de la Ley de IA, promocionada como la primera ley integral de IA del mundo.

La legislación propuesta clasificará las herramientas de IA en función de sus niveles de riesgo, desde mínimo hasta inaceptable. También aborda preocupaciones como la vigilancia biométrica, la desinformación y el uso de lenguaje discriminatorio. Si bien las herramientas de alto riesgo no estarán prohibidas, su uso requerirá una transparencia significativa.

La prioridad del Parlamento para la Ley de IA, que podría convertirse en ley a principios del próximo año, es asegurarse de que los sistemas de IA utilizados en la UE sean «seguros, transparentes, rastreables, no discriminatorios y respetuosos con el medio ambiente. Los sistemas de IA deben ser supervisados por personas, en lugar de por la automatización, para prevenir resultados perjudiciales».

Un enfoque centrado en el ser humano Souvick Ghosh, profesor asistente en la Escuela de Información de la Universidad Estatal de San José, también aboga por un enfoque liderado por las personas en la implementación de la inteligencia artificial en bibliotecas y otras instituciones.

«Las bibliotecas necesitan evolucionar y abrazar la revolución de la IA para que la IA y los sistemas de conversación sean más accesibles y centrados en el ser humano», escribió Ghosh en 2021. «Los chatbots ya se utilizan en varios sitios web para responder preguntas de los usuarios, ofrecer consejos direccionales y guiar a los usuarios hacia recursos relevantes. La implementación de sistemas de conversación en bibliotecas y museos ayudará a los usuarios con sus consultas y aumentará la accesibilidad.»

Asegurar un beneficio para la comunidad ¿Qué prácticas recomendables pueden seguir los profesionales de la información al decidir cómo incorporar estas tecnologías emergentes en las operaciones de la biblioteca? El informe de liderazgo del Urban Libraries Council que mencionamos anteriormente incluye las siguientes cinco sugerencias:

  • Pasar de informar a poner en práctica, como aprovechar las herramientas de IA para mejorar el rendimiento en las sucursales y el diseño de programas.
  • Aprovechar las habilidades de ingeniería de la sugerencia de profesionales de bibliotecas que ya están capacitados para encontrar cuerpos de información utilizando palabras clave o frases.
  • Fomentar la alfabetización en información del personal y los usuarios a través del uso práctico de la IA, como talleres en los que los participantes aprenden a generar cuentos cortos y poesía con IA.
  • Crear una red de inclusión digital centrada en la IA para garantizar un acceso equitativo a los beneficios económicos de las nuevas tecnologías impulsadas por la IA.
  • Abogar por el uso responsable de la IA para asegurarse de que estos avances beneficien a la comunidad en general y que se preserven los estándares fundamentales de educación, innovación y acceso a la información.

Los profesionales de la biblioteca tomarán las riendas La inteligencia artificial y el aprendizaje automático seguirán avanzando, pero los bibliotecarios son tan importantes como siempre, incluso si su papel está evolucionando junto con las herramientas de alta tecnología.

En el sitio web de American Journal Experts, Charla Viera resumió acertadamente esta evolución continua:

«Así como los profesionales de las bibliotecas tomaron las riendas en el desarrollo de los motores de búsqueda y las estrategias necesarias para maniobrar a través de sistemas de catalogación intrincados, también participarán en el diseño de herramientas de descubrimiento de conocimiento impulsadas por la inteligencia artificial. Luego, tomarán la iniciativa para educar al público sobre cómo localizar e interactuar con estas herramientas de IA.»

El futurista Ray Kurzweil alguna vez describió al bibliotecario como «el líder natural de la era de la información que se está desarrollando». En marzo de 1993 (hace más de 30 años), Kurzweil escribió una columna para Library Journal llamada «La Biblioteca Cambiante». En ella, habló sobre cómo podría ser la biblioteca del futuro.

«Por qué siempre necesitaremos bibliotecarios», escribió Kurzweil. «Con libros en forma virtual, transmitidos fácilmente a través del éter de las comunicaciones, la biblioteca virtual emergente no necesitará estar alojada en un edificio», escribió Kurzweil. «Las computadoras seguirán facilitando la eficiencia de la gestión, pero esta función dirigida por humanos no desaparecerá.

«Las dos últimas categorías de servicio de la biblioteca: encontrar conocimiento y pedagogía, se convertirán en el enfoque principal del bibliotecario. Aunque las computadoras competirán en estos roles, hasta que las computadoras sean capaces de igualar nuestra inteligencia, el papel de los humanos en el proceso de gestionar e impartir conocimiento seguirá siendo fundamental».

Los chatbots de Inteligencia Artificial «alucinan» inventándose información entre un 3 y un 27% de las veces

Metz, Cade. «Chatbots May ‘Hallucinate’ More Often Than Many Realize». The New York Times, 6 de noviembre de 2023, sec. Technology. https://www.nytimes.com/2023/11/06/technology/chatbots-hallucination-rates.html.

Los chatbots pueden «alucinar» más de lo que muchos creen. Al resumir hechos, la tecnología ChatGPT se equivoca un 3% de las veces, según un estudio de una nueva empresa. El porcentaje de un sistema de Google era del 27%.

Cuando la startup de San Francisco OpenAI presentó su chatbot en línea ChatGPT a finales del año pasado, millones quedaron impresionados por la forma en que respondía preguntas, escribía poesía y hablaba sobre casi cualquier tema de manera humanizada. Sin embargo, la mayoría de las personas no se dieron cuenta de que este nuevo tipo de chatbot a menudo inventa información.

Cuando Google presentó un chatbot similar varias semanas después, soltó tonterías sobre el telescopio James Webb. Al día siguiente, el nuevo chatbot Bing de Microsoft ofreció todo tipo de información falsa sobre Gap, la vida nocturna mexicana y la cantante Billie Eilish. En marzo, ChatGPT citó media docena de casos judiciales falsos al redactar un informe legal de 10 páginas que un abogado presentó a un juez federal de Manhattan.

una nueva empresa llamada Vectara, fundada por ex empleados de Google, está tratando de determinar con qué frecuencia los chatbots se desvían de la verdad. La investigación de la empresa estima que, incluso en situaciones diseñadas para evitarlo, los chatbots inventan información al menos el 3 por ciento del tiempo, y en algunos casos hasta el 27 por ciento.

Los expertos llaman a este comportamiento de chatbot «alucinación». Puede que no sea un problema para las personas que experimentan con chatbots en sus computadoras personales, pero es un problema grave para cualquiera que utilice esta tecnología con documentos judiciales, información médica o datos empresariales sensibles.

Dado que estos chatbots pueden responder a casi cualquier solicitud de una cantidad ilimitada de maneras, no hay forma de determinar de manera definitiva cuánto alucinan. «Tendrías que revisar toda la información del mundo», dijo Simon Hughes, el investigador de Vectara que lideró el proyecto.

Los investigadores argumentan que cuando estos chatbots realizan otras tareas, más allá de la simple condensación de contenidos (resumen), las tasas de alucinación pueden ser aún más altas. El problema radica en que, incluso cuando se les da una tarea sencilla y verificable, estos chatbots tienden a inventar información.