Archivo de la etiqueta: Inteligencia artificial

La seguridad de la IA avanzada, en el punto de mira del primer informe científico internacional independiente

GOV.UK. «International Scientific Report on the Safety of Advanced AI». Accedido 20 de mayo de 2024.

El informe provisional International Scientific Report on the Safety of Advanced AI (Informe científico internacional sobre la seguridad de la inteligencia artificial avanzada) presenta una visión actualizada y con base científica de la seguridad de los sistemas avanzados de inteligencia artificial. Este informe independiente, internacional e integrador constituye un hito en la colaboración internacional. Es la primera vez que la comunidad internacional se reúne para respaldar los esfuerzos encaminados a lograr una comprensión científica compartida y basada en pruebas de los riesgos de la IA de vanguardia.

Inicialmente lanzado como el informe Estado de la Ciencia en noviembre pasado, el informe reunió a un equipo global de expertos en IA, incluido un Panel Asesor de Expertos de 30 naciones líderes en IA de todo el mundo, así como representantes de la ONU y la UE, para reunir la mejor investigación científica existente sobre las capacidades y riesgos de la IA. El informe tiene como objetivo proporcionar a los responsables políticos de todo el mundo una única fuente de información para informar sus enfoques sobre la seguridad de la IA.

El informe reconoce que la IA avanzada puede utilizarse para impulsar el bienestar, la prosperidad y nuevos avances científicos, muchos de los cuales ya se han visto en campos como la atención médica, el descubrimiento de medicamentos y en cómo podemos abordar el cambio climático. Pero señala que, como todas las tecnologías poderosas, los desarrollos actuales y futuros podrían generar daños. Por ejemplo, los actores maliciosos pueden usar la IA para desencadenar campañas de desinformación a gran escala, fraude y estafas. Los avances futuros en la IA avanzada también podrían plantear riesgos más amplios, incluida la interrupción del mercado laboral, y desequilibrios e desigualdades en el poder económico.

Sin embargo, el informe destaca la falta de acuerdo universal entre los expertos en IA en una serie de temas, incluido tanto el estado actual de las capacidades de la IA como cómo podrían evolucionar con el tiempo. También explora las opiniones divergentes sobre la probabilidad de riesgos extremos que podrían afectar a la sociedad, como el desempleo a gran escala, el terrorismo habilitado por la IA y la pérdida de control sobre la tecnología. Con un amplio acuerdo de expertos que destaca la necesidad de priorizar la mejora de nuestra comprensión, las decisiones futuras de las sociedades y los gobiernos tendrán un impacto enorme.

La Secretaria de Estado de Ciencia, Innovación y Tecnología, Michelle Donelan dijo:

La IA es el desafío tecnológico definitorio de nuestro tiempo, pero siempre he dejado claro que garantizar su desarrollo seguro es un problema global compartido. Cuando encargué al profesor Bengio que produjera este informe el año pasado, dejé claro que debía reflejar la enorme importancia de la cooperación internacional para construir una comprensión científica basada en evidencia de los riesgos de la IA avanzada. Esto es exactamente lo que hace el informe. Este informe asegurará que podamos tener en cuenta las increíbles oportunidades de la IA de manera segura y responsable durante décadas.

Esta publicación provisional se centra en la IA avanzada «de propósito general». Esto incluye sistemas de IA de última generación que pueden producir texto, imágenes y tomar decisiones automatizadas. Se espera que el informe final se publique a tiempo para la Cumbre de Acción de IA que está prevista que sea organizada por Francia, pero ahora tomará en consideración evidencia de la industria, la sociedad civil y una amplia gama de representantes de la comunidad de IA. Este feedback significará que el informe mantendrá el ritmo con el desarrollo de la tecnología, actualizándose para reflejar las últimas investigaciones y expandiéndose en una variedad de otras áreas para garantizar una visión integral de los riesgos de la IA avanzada.

Este informe resume la evidencia científica existente sobre la seguridad de la IA hasta la fecha, y el trabajo liderado por una amplia gama de científicos y miembros del panel de 30 naciones, la UE y la ONU durante los últimos seis meses ahora ayudará a informar el próximo capítulo de las discusiones de los responsables de políticas en la Cumbre de IA de Seúl y más allá. Cuando se utiliza, se desarrolla y se regula de manera responsable, la IA tiene un potencial increíble para ser una fuerza de cambio.

El informe provisional destaca varias conclusiones clave, incluyendo:

  1. La IA de propósito general puede ser utilizada para promover el interés público, lo que conduce a un mayor bienestar, prosperidad y descubrimientos científicos.
  2. Según varios indicadores, las capacidades de la IA de propósito general están avanzando rápidamente. Si ha habido un progreso significativo en desafíos fundamentales como el razonamiento causal es motivo de debate entre los investigadores.
  3. Los expertos discrepan sobre el ritmo esperado de progreso futuro de las capacidades de la IA de propósito general, apoyando varias posibilidades de progreso lento, rápido o extremadamente rápido.
  4. Hay una comprensión limitada de las capacidades y el funcionamiento interno de los sistemas de IA de propósito general. Mejorar nuestra comprensión debería ser una prioridad.
  5. Al igual que todas las tecnologías poderosas, la IA de propósito general actual y futura puede ser utilizada para causar daño. Por ejemplo, los actores maliciosos pueden usar la IA para operaciones de desinformación e influencia a gran escala, fraude y estafas.
  6. El mal funcionamiento de la IA de propósito general también puede causar daño, por ejemplo, a través de decisiones sesgadas con respecto a características protegidas como raza, género, cultura, edad y discapacidad.
  7. Los futuros avances en la IA de propósito general podrían plantear riesgos sistémicos, incluida la interrupción del mercado laboral y desigualdades en el poder económico. Los expertos tienen diferentes opiniones sobre el riesgo de que la humanidad pierda el control sobre la IA de una manera que podría resultar en resultados catastróficos.
  8. Varios métodos técnicos (incluidas la evaluación comparativa, las pruebas de penetración y la auditoría de los datos de entrenamiento) pueden ayudar a mitigar los riesgos, aunque todos los métodos actuales tienen limitaciones y se requieren mejoras.
  9. El futuro de la IA es incierto, con una amplia gama de escenarios que parecen posibles. Las decisiones de las sociedades y los gobiernos tendrán un impacto significativo en su futuro.

Las mejores generadores de imágenes de IA gratuitos en 2024

Cawley, Conor. «Best Free AI Image Generators (with Screenshots)». Tech.Co (blog), 14 de mayo de 2024. https://tech.co/news/best-free-ai-image-generators.

El mejor generador de imágenes de IA adecuado es aquel que puede crear la imagen que necesitas en el momento, ya sea fotorealista o arte abstracto completo. Desafortunadamente, el chatbot de IA favorito de todos, ChatGPT, no te permite crear imágenes de forma gratuita. Sin embargo, hay muchos otros generadores de imágenes de IA gratuitos disponibles, tanto de firmas tecnológicas reputadas como de sitios web aleatorios, para que puedas encontrar una plataforma que te proporcione toda la funcionalidad que necesitas para obtener la toma correcta.

ImageFX de Google https://aitestkitchen.withgoogle.com/tools/image-fx

Si tienes una cuenta de Gmail, puedes acceder a ImageFX de Google con unos pocos clics. Sólo tienes que iniciar sesión, aceptar algunos términos y condiciones, y tendrás acceso a un potente generador de imágenes de IA de Google. Las imágenes son impresionantes, y el generador se ciñe a las indicaciones de la IA, al menos en la mayoría de las imágenes generadas.

Y lo que es mejor, dispones de algunas herramientas adicionales para mejorar tus imágenes. ImageFX de Google te sugiere adjetivos para mejorar la imagen y te ofrece otras sugerencias de sustantivos en función de tu sugerencia inicial. Incluso está el clásico botón «Me siento con suerte» de la Búsqueda de Google, que generará una sugerencia aleatoria seguida de la imagen generada que la acompaña.

Creador de imágenes de Microsoft Designer https://copilot.microsoft.com/images/create

Dado el dominio de Microsoft en el mercado de la IA en los últimos años gracias a su asociación con OpenAI, la compañía tiene obviamente su propio generador de imágenes de IA gratuito, y funciona de forma similar a la plataforma de Google. Sólo necesitas una cuenta de Microsoft para empezar, y podrás utilizar esta plataforma de forma gratuita.

Vale la pena señalar que esta plataforma puede ser un poco lenta, y si superas tus 15 «Boosts» por semana, puede ser aún más lenta. Aun así, te ofrece algunas funciones interesantes, como una barra lateral de Recientes que lleva la cuenta de todo lo que has creado, así como una pestaña de Explorar ideas que puede mostrarte otras creaciones de los usuarios.

Adobe Firefly https://www.adobe.com/es/products/firefly.html

Adobe Firefly es una herramienta excelente para los creadores que desean un control más detallado de lo que la IA crea para ellos. Podrás realizar ediciones más tangibles en las imágenes, como la relación de aspecto, la intensidad visual, el color, el tono, la iluminación e incluso el ángulo de la cámara. También puedes añadir imágenes a referencias y añadir palabras y gráficos sobre el contenido generado, para cosas como carteles y otros materiales de marketing.

Lo más importante, sin embargo, es que cuando descargas una imagen desde Firefly, se reitera la importancia de la transparencia en la IA, adjuntando metadatos y otros indicadores en la imagen de que ha sido generada por IA. Además, nos ha parecido uno de los mejores generadores de imágenes de IA en términos de realismo, por lo que estas advertencias son muy necesarias.

DreamStudio de stability.ai https://beta.dreamstudio.ai/generate

Otro sólido generador de imágenes AI que no requiere nada más que un login para empezar, DreamStudio ofrece una plataforma similar a Adobe Firefly, con un montón de opciones de personalización para conseguir exactamente lo que quieres. De hecho, incluso puedes obtener variaciones de una imagen generada, cambiando pequeños detalles pero manteniendo lo básico intacto, si encuentras algo que te gusta pero no es exactamente lo que quieres.

Además de eso, DreamStudio ofrece un campo de mensaje negativo, que le permite incluir lo que le gustaría que el generador de imágenes evite al responder a su otro mensaje. Una vez más, esto le permite concretar exactamente lo que quiere con esta plataforma.

Craiyon https://www.craiyon.com/

¿Quieres ser un poco más artístico con la generación de imágenes AI? Te recomendamos que eches un vistazo a la ingeniosa plataforma Craiyon, que te permite elegir entre las opciones Arte, Foto o Dibujo. Estos modelos generan opciones muy artísticas que te servirán de inspiración para tu trabajo.

Sin embargo, Craiyon tiene algunos inconvenientes. Por un lado, tiene dificultades con las opciones de realismo fotográfico, y sufre claramente de errores comunes de imagen de IA para personas, manos y otros detalles. Además, la versión gratuita sólo ofrece imágenes más pequeñas y está plagada de anuncios, por lo que su interfaz no es muy limpia. Aún así, desde un punto de vista artístico, Craiyon crea algunos retratos, paisajes y todo lo demás decididamente interesantes.

Batalla de los bots de IA: Copilot vs ChatGPT vs Gemini

Nield, David. «Battle of the AI Bots: Copilot vs ChatGPT vs Gemini». Popular Science, 11 de mayo de 2024. https://www.popsci.com/technology/copilot-vs-chatgpt-vs-gemini/.

El artículo «Battle of the AI bots: Copilot vs ChatGPT vs Gemini,» publicado el 11 de mayo de 2024 por David Nield, compara el rendimiento de tres conocidos chatbots generativos: Copilot de Microsoft, ChatGPT de OpenAI y Gemini de Google.

La batalla entre los bots de inteligencia artificial, específicamente Copilot de GitHub, ChatGPT de OpenAI y Gemini de Google, refleja el avance significativo en el campo de la inteligencia artificial y su aplicación en diversas áreas. Cada uno de estos bots tiene características y especializaciones que los distinguen, y a continuación se presenta una comparación detallada de cada uno:

Microsoft Copilot:


Copilot se encuentra prácticamente en todo lo que hace Microsoft ahora: Bing, Windows, OneDrive, y también está disponible en forma de aplicación web y móvil. Ni siquiera necesitas registrarte para usarlo, aunque tu asignación de uso está limitada si no inicias sesión con tus credenciales de Microsoft.

Copilot utiliza el motor de búsqueda Bing de Microsoft de manera transparente, y muchas respuestas tienen enlaces web adjuntos como citas, muy útiles si quieres asegurarte de que la IA no está alucinando. Además, tiene un tono amigable y conversacional, ofreciendo un montón de sugerencias para estímulos cada vez que lo abres.

El motor de IA que sustenta a Copilot es en realidad el GPT-4 de OpenAI (al menos hasta que Microsoft desarrolle el suyo propio), pero las herramientas son diferentes en varios aspectos, incluidos los tres ajustes de chat que puedes modificar para ajustar la salida de texto de Copilot: Más Creativo, Más Equilibrado y Más Preciso.

Copilot es la elección obvia si ya estás inmerso profundamente en el ecosistema de Microsoft. Funciona bien al referenciar información relevante de la web y proporciona enlaces de cita que son claros y fáciles de seguir.

OpenAI ChatGPT:

Parece que ChatGPT ha estado marcando el ritmo en lo que respecta a la IA generativa, pero ¿realmente es mucho mejor que la competencia cuando realmente lo usas? Ciertamente está ampliamente disponible: Puedes acceder a él desde la web en cualquier computadora, o desde las aplicaciones móviles en Android e iOS.

Hay una gran diferencia entre la versión gratuita de ChatGPT y la versión Plus de 20$ al mes; necesitas ser suscriptor para obtener características como generación de imágenes y escaneo de documentos, por ejemplo. Una suscripción también te permite construir tus propios GPT, con estímulos personalizados y tus propios datos (así que podrías, por ejemplo, alimentar a un GPT con tus propios documentos y luego hacer preguntas sobre ellos.

ChatGPT Plus también te da acceso a los modelos GPT-4 más recientes, pero el modelo GPT-3.5 gratuito es una puerta de entrada perfectamente adecuada a las conversaciones con chatbots de IA. Es rápido y versátil, aunque no te ofrece enlaces a otros lugares en la web como lo hace Copilot, para ayudarte a verificar la veracidad de lo que estás leyendo.

Una de las principales razones para elegir ChatGPT como tu chatbot preferido es que está en la vanguardia del desarrollo de IA, con nuevas mejoras y características lanzadas regularmente. Dicho esto, impresiona más cuando estás pagando por él, así que tal vez no sea el bot al que recurrir si tienes un presupuesto ajustado.

Google Gemini:

Por último, tenemos Google Gemini (anteriormente conocido como Google Bard), que está disponible como una aplicación web, una aplicación independiente para Android y en la aplicación de Google para iOS. Nuevamente, hay dos planes, gratuito y de pago, pero ese plan de pago (20$ al mes) es parte de Google One, por lo que también obtienes extras como almacenamiento en la nube incluido.

En cuanto a las diferencias reales en el uso del producto, pagar una tarifa mensual solo te da acceso a un modelo más nuevo y más inteligente (estos modelos también se llaman Gemini). En algunas situaciones, es posible que no notes la diferencia, pero en otras, como la programación o las matemáticas, probablemente lo harás.

Independientemente de la versión de Gemini que elijas, la interfaz es muy similar a la de ChatGPT, con tus conversaciones anteriores a la izquierda de la pantalla. Enlazar con conversaciones anteriores es sencillo, y nos gusta la forma en que puedes ver múltiples respuestas en borrador para el mismo estímulo (aunque los borradores a menudo son muy similares).

Al igual que con Copilot y Microsoft, Gemini tiene mucho sentido si ya usas muchos productos de Google; de hecho, es posible que ya lo hayas usado a través de Google Docs o Gmail. Sin embargo, en términos de respuestas y la interfaz, se parece más a la oferta de OpenAI, para bien o para mal: un poco más eficiente y no tan amigable como Copilot.

Conclusiones

No estábamos buscando encontrar un ganador absoluto a través de esta comparación, y de hecho, todos están bastante equilibrados: como Copilot, ChatGPT y Gemini pueden usarse de forma gratuita, puedes ver por ti mismo cuál se adapta mejor a tus necesidades. En cuanto a nuestras pruebas, Copilot te ofrece la mayor funcionalidad de IA sin pagar, ChatGPT es más o menos la IA más competente (pero solo si pagas por ella), mientras que Gemini es la opción si ya eres fan de todo lo que hace Google.

En conclusión, cada herramienta tiene sus propias particularidades. Copilot es ideal para usuarios de Microsoft, ChatGPT es competente pero requiere suscripción para su máximo potencial, y Gemini es recomendable para usuarios de Google. Todos pueden probarse gratuitamente para ver cuál se adapta mejor a las necesidades de cada usuario.

¿La llegada de la Inteligencia Artificial es el fin de la búsqueda en Google tal y como la conocemos?

Goode, Lauren. «It’s the End of Google Search As We Know It». Wired. Accedido 17 de mayo de 2024. https://www.wired.com/story/google-io-end-of-google-search/.

Google está repensando su producto más icónico y lucrativo al agregar nuevas características de inteligencia artificial a su búsqueda. Los expertos dicen que esto representa «un cambio en el orden mundial».

La búsqueda en Google está a punto de cambiar fundamentalmente, para bien o para mal. Para alinearse con la gran visión de la inteligencia artificial de Alphabet, y motivado por la competencia de innovadores en IA como ChatGPT, el producto central de la compañía se está reorganizando, volviéndose más personalizado y mucho más resumido gracias a la inteligencia artificial.

En su conferencia anual de desarrolladores esta semana, el gigante tecnológico Google se espera que anuncie grandes cambios a su producto insignia, la búsqueda. En lugar de dirigir a los usuarios a una lista de sitios web o mostrarles un extracto, la IA de Google elaborará párrafos de texto que intentan responder directamente a las preguntas de los usuarios.

Gerrit De Vynck señala que este cambio podría tener grandes consecuencias para internet. Dado que los chatbots de IA aún son poco confiables y la información que alimenta las respuestas generativas proviene de diversas fuentes, los usuarios deberán estar atentos a la información falsa. Además, el nuevo formato significa que fuentes en la web, como blogueros, negocios, periódicos y otros editores, probablemente tendrán una gran pérdida de tráfico.

Consideraciones sobre la evaluación de herramientas de IA generativa en el ámbito académico

Hendrick, R . «Considering RAG When Evaluating Generative AI Tools», Choice 360 13 de mayo de 2024. https://www.choice360.org/libtech-insight/considering-rag-when-evaluating-generative-ai-tools/.

La evaluación de herramientas de inteligencia artificial generativa (IA) requiere considerar varios aspectos, especialmente en el ámbito académico. La introducción de la Retrieval Augmented Generation (RAG) ha añadido una nueva dimensión a esta evaluación, destacando la importancia de comprender su funcionamiento y sus implicaciones para la investigación.

La creciente proliferación de herramientas de IA ha generado un desafío para los bibliotecarios académicos, quienes se enfrentan a la tarea de evaluar y seleccionar las herramientas más adecuadas para sus instituciones. En medio de esta diversidad de opciones, es esencial entender las distintas categorías de aplicaciones de IA, desde la IA conversacional hasta la IA generativa, y reconocer cómo estas aplicaciones pueden impactar en la investigación y el aprendizaje.

En particular, la IA generativa, que tiene la capacidad de crear nueva información, ha despertado el interés de la comunidad académica. Sin embargo, estas herramientas también plantean desafíos éticos y prácticos, como la falta de citas, la propensión a las alucinaciones y las preocupaciones sobre los derechos de autor y la privacidad del usuario.

Es aquí donde entra en juego la RAG. Esta tecnología, al mejorar las capacidades de las redes neuronales de la IA generativa, ofrece una solución parcial a estos problemas al permitir la incorporación de nueva información, la optimización de resultados y la provisión de citas y enlaces para los resultados de búsqueda. La RAG representa un paso importante hacia la creación de herramientas de IA generativa que sean verdaderamente útiles y confiables para la educación superior.

La diferencia entre una herramienta de IA generativa estándar y una herramienta que utiliza RAG es evidente en la experiencia del usuario. Mientras que las herramientas convencionales pueden ofrecer respuestas imprecisas o incompletas, aquellas que emplean RAG pueden proporcionar resultados más precisos y fiables, junto con la capacidad de personalizar la búsqueda y verificar las fuentes de información.

Astra es la respuesta «multimodal» de Google al nuevo ChatGPT que se integrará en unas gafas de realidad aumentada

«Astra Is Google’s ‘Multimodal’ Answer to the New ChatGPT | WIRED». Accedido 15 de mayo de 2024. https://www.wired.com/story/google-io-astra-multimodal-answer-chatgpt/.


El nuevo asistente de IA de Google, llamado Project Astra, puede interpretar lo que ve la cámara del teléfono y responder a comandos de voz. Presentado por Demis Hassabis en la conferencia I/O de Google, Astra utiliza Gemini Ultra, un modelo de IA multimodal que maneja audio, imágenes, video y texto. Similar al reciente ChatGPT de OpenAI, Astra puede analizar escenas, reconocer objetos y mantener conversaciones naturales. Aunque ambas tecnologías son impresionantes, aún no está claro cómo se integrarán en el ámbito laboral o personal.

En el panorama actual de la inteligencia artificial (IA), dos destacados avances han sido presentados por OpenAI y Google. OpenAI dio a conocer una nueva interfaz para ChatGPT, llamada GPT-4o, que permite conversaciones fluidas a través de voz y la capacidad de analizar imágenes en tiempo real. Esta versión de ChatGPT utiliza un tono más humano y expresivo, simulando incluso emociones como la sorpresa y el coqueteo. Por otro lado, Google ha desarrollado Project Astra, basado en el avanzado modelo Gemini Ultra, que compite con ChatGPT. Gemini, al igual que GPT-4o, es «multimodal», lo que significa que puede procesar audio, imágenes y video, además de texto. Ambos avances representan una nueva era en la IA generativa, ya que anteriormente los modelos de IA se centraban únicamente en el texto y necesitaban ser combinados con otros sistemas para añadir capacidades de imagen o audio.


Project Astra es la apuesta de Google para el futuro de los asistentes de inteligencia artificial, similar a la presentada por OpenAI, pero con una innovación llamativa: Google planea integrarlo en unas gafas de realidad aumentada. Este proyecto busca desarrollar agentes de IA universales que puedan entender y responder como lo haría un humano, además de recordar el contexto en el que se encuentran.

Estos desarrollos son el resultado de un enfoque hacia asistentes de IA más sofisticados, como lo señala Demis Hassabis de Google. Hassabis considera que los chatbots basados solo en texto son una etapa transitoria hacia sistemas más avanzados que comprenden y responden a diversas modalidades de información. Sin embargo, aunque las demostraciones de estos sistemas son impresionantes, su utilidad concreta en entornos laborales o personales aún no está clara. Google planea lanzar Project Astra a través de una nueva interfaz llamada Gemini Live. La apuesta es similar a la de OpenAI, pero con una novedad llamativa: Google plantea integrarla en unas gafas

Situación de la revisión por pares en 2024

IOP Publishing. «State of Peer Review 2024». Accedido 15 de mayo de 2024. https://ioppublishing.org/state-of-peer-review-2024/.

IOP Publishing ha publicado el informe «State of Peer Review 2024». En marzo de 2024, repitieron la encuesta de 2020 a revisores por pares en ciencias físicas, añadiendo nuevas preguntas. Los objetivos eran comparar respuestas para detectar cambios y recoger opiniones sobre temas como la IA generativa, el sesgo en la revisión por pares y la revisión doble anónima. El informe destaca cómo la pandemia de Covid-19, el aumento de publicaciones científicas y la aparición de la IA generativa han influido en la revisión por pares, además de abordar el aumento de retractaciones y la comercialización de la mala conducta investigativa.

Resultados Clave

  • Sesgo: La proporción de encuestados que reportan haber experimentado sesgo en el proceso de revisión por pares ha disminuido (16% en 2024 frente al 24% en 2020).
  • Motivación: El interés en el artículo sigue siendo la principal motivación para aceptar una invitación a revisar.
  • Uso de IA: Las opiniones sobre el impacto de la IA generativa en la revisión por pares están divididas.
  • Solicitudes de Revisión:
    • 50% reporta un aumento en las solicitudes en los últimos tres años.
    • 47% recibe menos de una invitación al mes.
    • 54% siente que recibe la cantidad adecuada de solicitudes.
    • 35% de los investigadores en etapas tempranas tienen más tiempo para revisar.
    • 52% prefiere revisar manuscritos de doble anonimato.

Tiempo Disponible para la Revisión

  • Frecuencia: 46.9% recibe menos de una solicitud al mes, solo el 3% recibe más de 11 solicitudes mensuales.
  • Diferencias Geográficas y de Carrera: No hay diferencias significativas por género, pero sí por etapa de carrera y región, con variaciones entre Europa y el resto del mundo.
  • Tendencias Recientes: 49.5% de los encuestados han visto un aumento en las solicitudes en los últimos tres años.

Tiempo Disponible Comparado con Solicitudes

  • En 2024, 30% tiene más tiempo disponible para revisiones comparado con 18% en 2020.
  • 16% recibe demasiadas solicitudes frente al 26% en 2020.
  • La mayoría, 54%, reporta recibir la cantidad adecuada de solicitudes.

No se observaron diferencias significativas por género, pero sí por etapa de carrera y región geográfica, especialmente entre países de ingresos altos y bajos.

Impacto de la IA Generativa en la Revisión por Pares

  • Opiniones Diversas:
    • Impacto Negativo: 35% de los encuestados.
    • Neutral/Sin Impacto: 36%.
    • Impacto Positivo: 29%.

Comentarios de los Respondentes:

  • Positivos: Utilidad para revisar manuscritos por plagio y calidad del idioma.
  • Negativos: Preocupaciones sobre la precisión y ética de los modelos de IA actuales.
  • General: La verificación y edición humana experta es necesaria antes de usar textos generados por IA en el proceso de revisión.

Las percepciones de los estudiantes acerca de la inteligencia artificial (IA)

«Student Perceptions of Generative AI.» Jisc.. Last modified January 12, 2024.

Texto completo

JISC ha publicado un nuevo informe sobre las percepciones de los estudiantes acerca de la inteligencia artificial (IA) generativa, basado en una serie de foros de discusión realizados durante el invierno pasado con más de 200 estudiantes de colegios y universidades. Este seguimiento se hizo para entender si y cómo han cambiado las opiniones de los estudiantes respecto a la IA generativa desde el informe anterior y para explorar su rol emergente en la educación.

A medida que las instituciones enfrentan el desarrollo de políticas y directrices, así como los complejos cambios pedagógicos, es crucial captar la voz auténtica de los estudiantes para informar una integración responsable de la IA que los capacite y mantenga la integridad académica.

Cambios clave desde la primavera de 2023

La adopción de la IA generativa en la educación por parte de los estudiantes está experimentando una notable transformación, reflejo de la rápida evolución de la propia tecnología. En tan solo nueve meses, desde el informe anterior, se ha observado un cambio evidente en la forma en que los estudiantes utilizan la IA generativa, así como una maduración de las expectativas de sus instituciones para apoyarles en su camino hacia el empleo en un mundo habilitado para la IA.

Transición al aprendizaje colaborativo: Los estudiantes/aprendices ven cada vez más la IA generativa como una herramienta colaborativa para entrenar y apoyar el aprendizaje activo y el pensamiento crítico, utilizando estas herramientas como un asistente digital en lugar de verlas puramente como proveedoras de respuestas.

Énfasis en las competencias futuras: Los estudiantes subrayaron la importancia de contar con competencias en IA generativa que sean relevantes para sus futuros sectores. Hay una demanda creciente de una educación que integre la IA generativa en todo el plan de estudios y refleje el mundo habilitado para la IA en el que todos vivimos ahora.

Ética, equidad y accesibilidad: Los estudiantes están cada vez más concienciados y preocupados por los problemas de equidad, parcialidad y accesibilidad relacionados con la IA, y abogan por medidas que aborden estos retos para garantizar una experiencia educativa segura, inclusiva y receptiva.

Integración global y competencia de los educadores: Existe una clara expectativa por parte de los estudiantes de una integración completa de la IA generativa en la educación, con un uso competente por parte de los educadores y políticas que garanticen un entorno de aprendizaje mejorado por la IA justo y eficaz.

Los libros como aliados: el impulso de las bibliotecas para democratizar la inteligencia artificial

Hansen, Dave. «Books Are Big AI’s Achilles Heel». Authors Alliance (blog), 13 de mayo de 2024. https://www.authorsalliance.org/2024/05/13/books-are-big-ais-achilles-heel/.


El avance rápido de la inteligencia artificial está transformando cómo trabajamos y vivimos, una revolución que nos afectará a todos. Mientras que el impacto de la IA sigue expandiéndose, la operación y los beneficios de la tecnología están cada vez más concentrados en un pequeño número de gigantescas corporaciones, incluyendo a OpenAI, Google, Meta, Amazon y Microsoft.

Desafiar este emergente oligopolio de la IA parece intimidante. Los últimos modelos de IA ahora cuestan miles de millones de dólares, más allá de los presupuestos de startups e incluso de las universidades de investigación de élite, que a menudo han generado las nuevas ideas e innovaciones que avanzan el estado de la inteligencia artificial.

Pero las universidades tienen un arma secreta que podría nivelar el campo de juego de la IA: sus bibliotecas. La potencia informática puede ser una parte importante de la IA, pero el otro ingrediente clave es los datos de entrenamiento. La inmensa escala es esencial para estos datos, pero también lo es su calidad.

Dada su voraz apetencia por el texto para alimentar sus grandes modelos de lenguaje, las principales compañías de IA han tomado todas las palabras que pueden encontrar, incluyendo de foros en línea, subtítulos de YouTube y documentos de Google. Esto no es exactamente «lo mejor que se ha pensado y dicho», para usar la frase punzante de Matthew Arnold. En la búsqueda caótica de la cantidad por parte de la Gran IA, la calidad ha quedado en un segundo plano. La frecuencia de «alucinaciones», inexactitudes actualmente endémicas en las salidas de la IA, es motivo de una preocupación aún mayor.

La manera obvia de rectificar esta falta de calidad y la tenue relación con la verdad es mediante el entrenamiento de los modelos a través de libros. Desde el advenimiento de la imprenta, los autores han publicado más de 100 millones de libros. Estos volúmenes, conservados durante generaciones en los estantes de las bibliotecas, son quizás el reflejo más sofisticado del pensamiento humano desde el principio de la historia registrada, conteniendo dentro de ellos algunas de nuestras mejores (y peores) ideas. En promedio, tienen una calidad editorial excepcional en comparación con otros textos, capturan una amplitud y diversidad de contenido, una mezcla vívida de estilos y utilizan la narrativa de larga extensión para comunicar argumentos y conceptos matizados.

Los principales proveedores de IA han buscado aprovechar esta fuente de inteligencia humana para alimentar lo artificial, aunque a menudo mediante métodos cuestionables. Algunas compañías han recurrido a un infame conjunto de miles de libros, aparentemente recuperados de sitios web piratas sin permiso, llamados «Books3». También han buscado licencias directamente de los editores, utilizando sus enormes presupuestos para comprar lo que no pueden recoger. Meta incluso consideró comprar uno de los mayores editores del mundo, Simon & Schuster.

Como piedra angular de nuestra cultura compartida y como posible base para una mejor inteligencia artificial, los libros son demasiado importantes para fluir a través de estos canales comprometidos o costosos. ¿Qué pasaría si hubiera una colección gestionada por bibliotecas disponible para una amplia gama de investigadores de IA, incluidos los de universidades, instituciones de investigación sin fines de lucro y pequeñas empresas, así como las grandes?

Tales colecciones vastas de libros digitalizados existen en la actualidad. Google, al invertir millones de dólares en su proyecto de escaneo de libros, tiene acceso a más de 40 millones de libros, un activo valioso que sin duda les gustaría mantener en exclusiva. Afortunadamente, esos libros digitalizados también son mantenidos por las bibliotecas asociadas de Google. Las bibliotecas de investigación y otras organizaciones sin fines de lucro tienen reservas adicionales de libros digitalizados derivados de sus propias operaciones de escaneo, provenientes de libros en sus propias colecciones. Juntos, representan una formidable agregación de textos.

Un conjunto de datos de entrenamiento liderado por bibliotecas de libros diversificaría y fortalecería el desarrollo de la IA. Las bibliotecas de investigación digitalizadas son más que lo suficientemente grandes y de sustancialmente mayor calidad como para ofrecer una alternativa convincente a los conjuntos de datos existentes dispersos. Estas instituciones e iniciativas ya han trabajado en muchos de los problemas de derechos de autor más desafiantes, al menos en lo que respecta a cómo se aplica el uso justo a usos de investigación sin fines de lucro como el análisis computacional. Si el uso justo también se aplica a la IA comercial, o a modelos construidos a partir de fuentes dudosas como Books3, aún está por verse.

Los textos digitales mantenidos por las bibliotecas provienen de libros adquiridos de manera legal, una inversión de miles de millones de dólares, cabe señalar, al igual que esos grandes centros de datos, y las bibliotecas tienen inherentemente un respeto por los intereses de los autores y titulares de derechos al tener en cuenta preocupaciones sobre el consentimiento, el crédito y la compensación. Además, tienen una disposición de interés público que puede tener en cuenta los desafíos sociales y éticos particulares del desarrollo de la IA. Un consorcio de bibliotecas podría distinguir entre las diferentes necesidades y responsabilidades de los investigadores académicos, los nuevos participantes en el mercado y los grandes actores comerciales.

Si no recurrimos a las bibliotecas para guiar el entrenamiento de la IA sobre el contenido profundo de los libros, veremos un refuerzo de los mismos oligopolios que dominan el sector tecnológico actual. Solo las empresas más grandes y mejor financiadas adquirirán estos valiosos textos, lo que conducirá a una mayor concentración en la industria. Otros serán impedidos de crear nuevas formas imaginativas de IA basadas en lo mejor que se ha pensado y dicho. Como siempre lo han hecho, al democratizar el acceso, las bibliotecas pueden apoyar el aprendizaje y la investigación para todos, asegurando que la IA se convierta en el producto de muchos en lugar de unos pocos

OpenAI lanza GPT-4o, su nuevo modelo de IA Gratuito con respuestas en tiempo real y capacidades de entendimiento de audio y video capaz de detectar emociones

Wiggers, Kyle. «OpenAI Debuts GPT-4o “omni” Model Now Powering ChatGPT». TechCrunch, 13 de mayo de 2024. https://techcrunch.com/2024/05/13/openais-newest-model-is-gpt-4o/.


OpenAI recientemente presentó su última novedad de inteligencia artificial, GPT-4o, e introdujo una versión de escritorio de ChatGPT, brindando un conjunto de funciones mejoradas al alcance de todos los usuarios de forma gratuita. GPT-4o («o» de «omni») es un paso adelante hacia una interacción mucho más natural entre el ser humano y el ordenador: acepta como entrada cualquier combinación de texto, audio e imagen y genera cualquier combinación de texto, audio e imagen como salida.

OpenAI lanzó el lunes un nuevo modelo de IA y una versión de escritorio de ChatGPT, junto con una nueva interfaz de usuario. La actualización pone GPT-4 a disposición de todo el mundo, incluidos los usuarios gratuitos de OpenAI, según explicó la directora técnica Mira Murati en un evento retransmitido en directo. Añadió que el nuevo modelo, GPT-4o, es «mucho más rápido», con capacidades mejoradas en texto, vídeo y audio.

Los miembros del equipo de OpenAI también demostraron las capacidades de audio del nuevo modelo, pidiendo ayuda para calmarse antes de un discurso público. Mark Chen, investigador de OpenAI, afirmó que el modelo es capaz de «percibir tus emociones», y añadió que también puede hacer frente a las interrupciones de los usuarios.

Durante la retransmisión en directo, OpenAI demostró las capacidades de conversación de audio en tiempo real de GPT-4o, mostrando su capacidad para entablar un diálogo natural y receptivo sin el típico retraso de 2-3 segundos experimentado con modelos anteriores. El asistente de IA parecía captar fácilmente las emociones, adaptaba su tono y estilo a las peticiones del usuario e incluso incorporaba efectos de sonido, risas y canciones a sus respuestas.

Cuando esté disponible, nos encontraremos con un asistente con el que podremos comunicarnos de manera completamente natural, como lo haríamos con otro ser humano. Podremos interrumpirlo mientras responde, características que hasta ahora no se habían visto en ninguna otra IA. El modelo no solo ofrece respuestas instantáneas, sino que también proporciona respuestas en una variedad de tonos de voz, e incluso puede reír, cantar, expresar diferentes estados de ánimo y resolver problemas matemáticos. Una de las características destacadas que llegará a ChatGPT gracias al nuevo modelo es la traducción instantánea. OpenAI busca que simplemente le pidamos lo que queramos al chatbot para que comience a hacer su trabajo, todo en lenguaje natural, sin necesidad de pensar en comandos específicos.

Además, se destacó la comprensión visual mejorada de GPT-4o. Al cargar capturas de pantalla, documentos que contienen texto e imágenes o gráficos, los usuarios pueden mantener conversaciones sobre el contenido visual y recibir análisis de datos de GPT-4o. En la demostración, el modelo demostró su capacidad para analizar selfies, detectar emociones y participar en bromas animadas sobre las imágenes.

Las características disponibles para los usuarios gratuitos de ChatGPT incluirán inteligencia de nivel GPT-4, respuestas tanto del modelo como de la web, análisis de datos y creación de gráficos, conversaciones sobre fotos tomadas, asistencia para resumir, escribir o analizar archivos cargados, y la posibilidad de descubrir y utilizar GPTs y la tienda GPT para construir una experiencia más útil con la función de Memoria.

Entre las funciones disponibles para los usuarios gratuitos de ChatGPT a partir de ahora se incluyen las siguientes, según OpenAI:

  • Experiencia de inteligencia de nivel GPT-4
  • Obtener respuestas tanto del modelo como de la web
  • Analizar datos y crear gráficos
  • Conversa sobre las fotos que haces
  • Sube archivos para que te ayuden a resumir, escribir o analizar
  • Descubrir y utilizar GPTs y el GPT Store
  • Construye una experiencia más útil con la Memoria