Archivo de la categoría: Tecnologías de la información

La carrera por construir un motor de búsqueda basado en ChatGPT

«The Race to Build a ChatGPT-Powered Search Engine | WIRED». Accedido 9 de febrero de 2023.

Ver completo

Impulsados por el entusiasmo que suscita ChatGPT, los titanes de las búsquedas en Internet, así como varias empresas emergentes, siguen adelante. Microsoft, que ha invertido unos 10.000 millones de dólares en OpenAI, creador de ChatGPT, está a punto de incorporar la tecnología subyacente a Bing, su segundo motor de búsqueda. Google, que lleva tiempo trabajando en un chatbot similar llamado LaMDA, se apresura a reaccionar. Baidu, el principal motor de búsqueda de China, está trabajando en un bot en chino similar a ChatGPT.

JIANG CHEN, experto en aprendizaje automático que trabajó anteriormente en Google, quedó hipnotizado cuando probó por primera vez ChatGPT, el chatbot de OpenAI extraordinariamente coherente y aparentemente bien informado que se ha convertido en una sensación en Internet.

Pero el aura de poder de la tecnología se atenuó cuando Chen intentó utilizar la misma tecnología de inteligencia artificial subyacente para crear una herramienta de búsqueda mejor para la startup que cofundó, Moveworks. La empresa utiliza la IA para ayudar a los empleados a buscar información, como documentos de asistencia técnica y páginas de recursos humanos. La nueva herramienta de búsqueda de Chen era excelente para extraer todo tipo de información útil de esos documentos, incluidas direcciones y números de teléfono, pero algunos de ellos no eran reales. «Su capacidad de fabricación es asombrosa», afirma Chen.

Es comprensible el entusiasmo que ha despertado ChatGPT y las sugerencias generalizadas de que podría reinventar los motores de búsqueda. El chatbot puede dar respuestas complejas y sofisticadas a preguntas sintetizando la información de miles de millones de palabras extraídas de Internet y otras fuentes para entrenar sus algoritmos. Juguetear con el bot puede dar la sensación de experimentar una forma más fluida de interactuar con las máquinas.

Pero la forma en que funciona esta tecnología es, en cierto modo, fundamentalmente contraria a la idea de un motor de búsqueda que recupere de forma fiable la información que se encuentra en Internet. Ya hay mucha información inexacta en la red, pero ChatGPT genera fácilmente nuevas falsedades. Sus algoritmos subyacentes no se basan directamente en una base de datos de hechos o enlaces, sino que generan cadenas de palabras destinadas a parecerse estadísticamente a las vistas en sus datos de entrenamiento, sin tener en cuenta la verdad. Otro problema de un sistema como ChatGPT es que sus respuestas se basan únicamente en los datos con los que fue entrenado. Volver a entrenar el modelo en su totalidad puede costar millones de dólares debido a su tamaño y a la escala de los datos.

A pesar de este reto, y quizás impulsados por el entusiasmo que suscita ChatGPT, los titanes de las búsquedas en Internet, así como varias empresas emergentes, siguen adelante. Microsoft, que ha invertido unos 10.000 millones de dólares en OpenAI, creador de ChatGPT, está a punto de incorporar la tecnología subyacente a Bing, su segundo motor de búsqueda.

Google, que lleva tiempo trabajando en un chatbot similar llamado LaMDA, se apresura a reaccionar. Tiene previsto lanzar pronto una versión de LaMDA y es posible que demuestre este año hasta 20 productos que utilizan la misma tecnología. Baidu, el principal motor de búsqueda de China, está trabajando en un bot en chino similar a ChatGPT.

Mientras los gigantes tecnológicos preparan sus respuestas a la emergencia de ChatGPT, varias startups han lanzado motores de búsqueda con interfaces de chat similares al bot. Entre ellas se encuentran You.com, Perplexity AI y Neeva.

Las herramientas que han construido ilustran tanto el potencial como el reto de adaptar la tecnología del estilo ChatGPT a las búsquedas. You.com, fundada por Richard Socher, experto en lenguaje e IA, puede ofrecer respuestas a través de una interfaz de chat. Las respuestas vienen acompañadas de citas, que pueden ayudar al usuario a rastrear el origen de una información.

No está claro cuánto tiempo llevará inventar y probar estas soluciones. Puede que pase algún tiempo antes de que la tecnología pueda cambiar radicalmente la forma en que la gente busca respuestas, incluso si se dan otros casos de uso, como idear nuevas recetas o servir de compañero de estudio o programación.

Google está trabajando en un competidor de ChatGPT llamado Bard que saldrá en unas semanas

Vincent, James. «Google Announces ChatGPT Rival Bard, with Wider Availability in “Coming Weeks”». The Verge, 6 de febrero de 2023.

Ver completo

Google está trabajando en un competidor del chatbot ChatGPT de OpenAI. El «servicio experimental de IA conversacional» se llama Bard y solo lo está probando un grupo limitado de personas.

El consejero delegado de Google, Sundar Pichai, ha anunciado hoy el proyecto en una entrada de su blog, en la que describe la herramienta como un «servicio experimental de IA conversacional» que responderá a las consultas de los usuarios y participará en conversaciones. El software estará disponible para un grupo de «personas de confianza», dice Pichai, antes de convertirse en «más ampliamente disponible para el público en las próximas semanas.»

No está claro exactamente qué capacidades tendrá Bard, pero parece que el chatbot será tan libre como ChatGPT de OpenAI. Una captura de pantalla anima a los usuarios a hacer preguntas prácticas a Bard, como por ejemplo cómo planificar un «baby shower» o qué tipo de comidas se podrían hacer a partir de una lista de ingredientes para el almuerzo.

Escribe Pichai: «Bard puede ser una válvula de escape para la creatividad y una plataforma de lanzamiento para la curiosidad, ayudándote a explicar los nuevos descubrimientos del telescopio espacial James Webb de la NASA a un niño de 9 años, o a aprender más sobre los mejores delanteros del fútbol en este momento, y luego obtener ejercicios para mejorar tus habilidades».

Pichai también señala que Bard «se nutre de la información de la web para ofrecer respuestas actuales y de alta calidad», lo que sugiere que podría ser capaz de responder a preguntas sobre acontecimientos recientes, algo con lo que ChatGPT tiene dificultades.

El anuncio precipitado y la falta de información sobre Bard son signos reveladores del «código rojo» desencadenado en Google por el lanzamiento de ChatGPT el año pasado. Aunque la tecnología subyacente de ChatGPT no es revolucionaria, la decisión de OpenAI de poner el sistema a libre disposición en la web expuso a millones de personas a esta novedosa forma de generación automatizada de texto. Los efectos han sido sísmicos, con debates sobre el impacto de ChatGPT en la educación, el trabajo y -de especial interés para Google- el futuro de las búsquedas en Internet.

Microsoft, que ha invertido miles de millones de dólares en OpenAI, también ha aprovechado el momento. Se dice que la empresa está integrando ChatGPT en su motor de búsqueda Bing, así como en otros productos de su suite de software ofimático. La semana pasada se filtraron capturas de pantalla que supuestamente mostraban un Bing mejorado con ChatGPT.

Tecnologías emergentes. Qué son y cómo aprovecharlas en las industrias creativas y Culturales

«Tecnologías emergentes. Qué son y cómo aprovecharlas en las industrias creativas y Culturales». Bogotá, Colombia: CERLALC, 2022. Accedido 2 de febrero de 2023

Texto completo

A principios de este siglo comenzó la que ha sido llamada la “Cuarta Revolución Industrial”. Una revolución digital que se caracteriza por la cobertura de internet en los lugares más recónditos del planeta, por sensores y dispositivos cada vez más versátiles, pequeños y potentes que, a su vez, son cada vez más baratos e inteligentes, y por tecnologías cada vez más sofisticadas, integradas y extendidas que se difunden rápidamente y están transformando las sociedades y la economía mundial. Son la fusión de estas tecnologías y su interacción a través de los dominios físicos, digitales y biológicos las que hacen que se trate de una revolución fundamentalmente diferente de las anteriores.

Informe sobre la Sociedad Digital en España 2022 (2023)

Informe sobre la Sociedad Digital en España 2022. Madrid: Fundación telefónica, 2023

Descargar

El informe ‘La Sociedad Digital en España’, convertido en un referente informativo, pretende reflejar el camino que está siguiendo nuestro país para convertirse en una sociedad en red. Esta transformación, acelerada por la crisis sanitaria, presenta numerosos desafíos donde el prioritario es conseguir que nadie se quedé atrás, garantizando así una transición inclusiva.

Como en años anteriores, este trabajo parte de tres fuentes de información: la procedente de los principales indicadores sobre el ecosistema digital, tanto nacionales como internacionales, otra que emana de las encuestas a clientes de las unidades de negocio de Telefónica y, finalmente, una visión territorial desde las comunidades autónomas.

Estamos viviendo una época histórica sin precedentes que, como sociedad, nos obliga a asimilar desafíos vitales para el crecimiento de nuestro país: es necesario abordar la transición digital de todos los sectores, transformar las empresas, paliar la falta de profesionales TIC, reducir las brechas digitales… Un esfuerzo común para evitar que nadie se quede atrás en esta nueva ola tecnológica y que podemos afrontar con optimismo, porque España ocupa una situación privilegiada en digitalización y conectividad.

La transformación digital se presenta como palanca clave de crecimiento económico y herramienta de recuperación, con especial protagonismo del 5G. El despliegue de esta tecnología supondrá, en nuestro país, inversiones por valor de más de 5.000 millones de euros y la creación de más de 300.000 empleos. Además, se perfila como una palanca esencial para promover la sostenibilidad medioambiental, reduciendo las emisiones anuales totales de la Unión Europea hasta en un 20%. Son datos recogidos en ‘La Sociedad Digital en España 2022’ que recoge los indicadores sociales más relevantes para medir el avance hacia la digitalización.

El ocio digital continúa siendo uno de los principales motivos de uso de internet: casi dos tercios (64,7%) de los internautas españoles han visto contenido multimedia en 2021, situándose como uno de los principales usos de internet.

Dentro de los canales o medios que los usuarios prefieren a los servicios digitales se continúa accediendo a través del ordenador, el smartphone y la tableta, sin embargo, otros dispositivos (altavoces inteligentes, smart TVs, pulseras de actividad, sistemas IoT domésticos, electrodomésticos inteligentes) comienzan a tener una presencia destacada. En 2021, por primera vez, más de la mitad de los hogares (53,1%) contaba con un televisor inteligente conectado a internet, casi 11 puntos más que en 2020.

A pesar del avance hacia la digitalización, siguen existiendo brechas. Una de las más evidentes es la relacionada con la edad, donde el 30% de los mayores de 65 años no hace uso de internet. Otra de las brechas digitales está relacionada con el nivel formativo y de cualificación: en 2021, una quinta parte de las familias españolas no disponía de ordenador, un dispositivo necesario para llevar a cabo usos avanzados de internet, como teletrabajar o formarse online. Esto pone de manifiesto la necesidad de políticas públicas que ayuden a disminuir la brecha de capacitación digital sin olvidar la brecha derivada de la falta de disponibilidad de dispositivos suficientes.

La inteligencia artificial, el big data, internet de las cosas, blockchain, cloud o la robótica, están dando forma a la economía del dato y del conocimiento.

A finales de 2021, la Comisión Europea publicó su informe anual sobre el grado de aplicación de la Carta de los Derechos Fundamentales de la Unión Europea, que estaba centrado sobre el tema de la protección de los derechos fundamentales en la era digital. El documento identifica varios problemas asociados con la transformación tecnológica en marcha considerados especialmente preocupantes, como son, la gestión de contenidos por parte de las plataformas digitales, los derechos individuales frente al uso de la inteligencia artificial, las distintas brechas digitales, los derechos de los trabajadores de la gig economy, y la vigilancia basada en recopilar macrodatos de la ciudadanía.

Desde la perspectiva de los Estados miembros, España ha sido pionera en la adopción en julio de 2021 de una Carta de Derechos Digitales, que pretende equiparar la protección de los derechos de los ciudadanos en los entornos offline y online.

Indispensables, interdependientes e invisibles: una investigación cualitativa sobre el mantenimiento de los sistemas bibliotecarios

Tillman, Ruth Kitchin. «Indispensable, Interdependent, and Invisible: A Qualitative Inquiry into Library Systems Maintenance | Tillman | College & Research Libraries», 4 de enero de 2023. https://doi.org/10.5860/crl.84.1.121.

Más de treinta años después de que se desarrollaran por primera vez estos sistemas, el Sistema Integrado de Bibliotecas es la base de la mayoría de las operaciones de una biblioteca académica. Sin embargo, en la literatura, su mantenimiento cotidiano se reduce a menudo a una lista de tareas. A través de entrevistas con dieciséis responsables del mantenimiento del sistema, este estudio intenta desarrollar una comprensión experiencial de su mantenimiento. Los resultados sugieren que la mayoría de los mantenedores consideran que este trabajo es significativo, pero se enfrentan a obstáculos cuando sus colegas y los administradores no entienden lo que hacen lo suficientemente bien como para apoyarlo. Este artículo propone medidas para crear un lugar de trabajo en el que se reconozcan y apoyen las tareas básicas de mantenimiento.

IFLA Internet en 2023: Cuestiones clave para las bibliotecas

IFLA. «The Internet in 2023: Key Issues for Libraries». Accedido 30 de enero de 2023.

Ver original

En el último número de nuestra serie de análisis prospectivos sobre distintos ámbitos políticos, se centra en Internet y el mundo digital en general. Dada nuestra propia dependencia de la tecnología, así como su impacto en la consecución de objetivos bibliotecarios más amplios, las evoluciones en este ámbito son especialmente relevantes para nuestro campo.

Una visión interesante del taller de la IFLA para bibliotecarios de toda la región de Asia y Oceanía el año pasado fue que desde el comienzo de la pandemia, el campo de las bibliotecas parece estar menos preocupado por su capacidad para trabajar con Internet y las herramientas digitales.

Esto se desprende de la comparación de la forma en que los bibliotecarios de 2018 y 2022 clasificaron los diferentes aspectos destacados y oportunidades expuestos en el Informe sobre la Visión Mundial. Los dos que tocan temas digitales estaban cerca de la parte superior de la lista de prioridades hace cinco años, pero ahora estaban muy abajo. Esto no significa que haya desaparecido la necesidad de centrarse en ello, sino que tal vez haya disminuido la sensación de temor, dado lo bien que gran parte de nuestro campo ha sido capaz de adoptarlo y adaptarse.

Por supuesto, cuanto más se integra Internet en nuestra práctica -y en nuestras vidas individuales y colectivas en general-, más interés tenemos en que funcione correctamente.

¿Cuáles son los retos de las bibliotecas en 2023? A continuación se exponen algunas ideas, basadas sobre todo en el trabajo de la Fundación Diplo, cuya lectura recomendamos encarecidamente.

Tensiones constantes entre la privacidad y la lucha contra los contenidos nocivos: los derechos humanos no siempre apuntan en la misma dirección. A menudo, deben equilibrarse entre sí, como reconoce la propia Declaración Universal.

Un buen ejemplo de dónde hay que encontrar ese equilibrio es la lucha que se libra en varias jurisdicciones para encontrar formas de proteger contra el daño y la discriminación (la incitación ilegal al odio y el material de abuso infantil son dos ejemplos claros), al tiempo que se defienden los derechos a la libertad de expresión y a la intimidad. No existe, y posiblemente nunca ha existido, una solución fácil, y las opiniones de ambas partes están muy arraigadas.

En términos de lo que esto significa para las bibliotecas -que han trabajado durante mucho tiempo para encontrar este equilibrio, y de hecho siguen teniendo que hacerlo a menudo frente a protestas feroces- tenemos el potencial de proporcionar una visión única en los debates, indicando qué principios y valores pueden apoyar cualquier solución que finalmente se encuentre.

La responsabilidad de los intermediarios bajo la lupa: estrechamente relacionada con lo anterior está la cuestión del futuro de los principales intermediarios, especialmente Google y Facebook. Podría decirse que han desempeñado un papel muy importante en la creación de Internet tal y como la conocemos hoy en día y, al hacerlo, se han enriquecido enormemente. Esto también las ha convertido en objetivos obvios, dado que puede parecer mucho más sencillo regular (y más rentable demandar) a un par de grandes empresas que a millones de particulares.

Está claro que hay preguntas que responder, por ejemplo sobre su impacto en la competencia, así como una mayor transparencia sobre cómo toman sus propias decisiones sobre los contenidos que alojan y a los que dan acceso. Como respuesta, también se están haciendo grandes esfuerzos por regularlas, lo que puede conducir a cambios como los que se vieron en el caso de Microsoft a principios de la década de 2000, así como a reforzar los derechos de los usuarios sobre sus datos y mejorar la interoperabilidad. Estas cuestiones serán el centro de atención de una importante conferencia de la UNESCO el mes que viene.

Para las bibliotecas y sus usuarios, que también pueden depender en gran medida de estas plataformas tanto para el trabajo básico como para la comunicación, merece la pena seguir estos debates, tanto para garantizar que funcionan de forma coherente con nuestros valores como con nuestras necesidades.

La necesidad de proteger a las bibliotecas de una regulación al estilo GAFA: vinculado a lo anterior está el riesgo de que cuando se elabore una legislación digital, no se tenga en cuenta adecuadamente a las bibliotecas y sus necesidades. Este es particularmente el caso cuando los gobiernos buscan regular las principales plataformas, dado que las mismas normas pueden acabar aplicándose a los repositorios de acceso abierto y educación abierta gestionados o utilizados por las bibliotecas.

Por supuesto, esto también supone un riesgo cuando se toman medidas en un sentido u otro en el esfuerzo por encontrar un equilibrio entre la privacidad y los contenidos perjudiciales antes mencionados, con lo que la regulación corre el riesgo de limitar el margen que tienen los bibliotecarios para ejercer su propio juicio profesional a la hora de crear colecciones y proporcionar acceso a los contenidos.

Esto nos obliga a prestar mucha atención a la legislación a todos los niveles y a estar dispuestos a intervenir cuando sea necesario para evitar decisiones que perjudiquen nuestra capacidad de cumplir nuestra misión.

Evolución de la gobernanza mundial de Internet: en 2023 se trabajará intensamente para preparar los momentos clave de 2024 y 2025 en la arquitectura de la gobernanza mundial de Internet. El Pacto Digital Mundial de las Naciones Unidas (que se acordará el próximo año; véase la aportación de la IFLA hasta la fecha) establecerá principios de alto nivel que guiarán su propia labor en este ámbito, además de servir de referencia para los gobiernos en cuestiones como la conectividad, el mantenimiento de una Internet mundial, la gobernanza de los datos, los derechos y el apoyo a los bienes comunes digitales.

Mientras tanto, 2025 marcará el final del actual mandato del Foro para la Gobernanza de Internet, así como el 20º aniversario de la Cumbre Mundial sobre el Proceso de la Sociedad de la Información. Existe un claro impulso en las Naciones Unidas para garantizar que estas cumbres se centren más en la acción, lo que plantea interrogantes sobre el papel de los gobiernos en ellas, en contraposición a otras partes interesadas.

A medida que avancen los preparativos para estos eventos, querremos asegurarnos, tanto a nivel nacional como internacional, de que los valores de las bibliotecas sean escuchados y reflejados, y de que las propias bibliotecas sean consideradas partes interesadas clave y parte de la solución.

Criptomonedas, Web 3.0 y el Metaverso: 2022 estuvo lleno de grandes anuncios en torno a grandes ideas nuevas que, según prometieron sus promotores, darían lugar a toda una nueva serie de perturbaciones en partes importantes de nuestras vidas.. En su mayor parte, no se materializaron, aunque se dieron muchos pasos menos dramáticos que al menos han empezado a mostrar su potencial.

El auge de las criptomonedas -y la filosofía subyacente de una web descentralizada (web 3.0)- recibió un duro golpe, con fallos y defectos que se hicieron muy evidentes. Sin embargo, el auge de Mastodon frente a las dudas sobre Twitter ha ofrecido una historia más positiva. Para las bibliotecas se plantea una cuestión interesante. La descentralización encaja con la lógica del empoderamiento individual, aunque al mismo tiempo, el libertarianismo extremo de muchos defensores de la Web 3.0 parece hostil a la idea de que se confíe en cualquier institución (incluyendo implícitamente, por supuesto, a las bibliotecas).

Otra cuestión a tener en cuenta es el metaverso. Está claro que no ha tenido la acogida que se esperaba al principio, pero es poco probable que el concepto desaparezca, y en 2023 deberían darse pasos más prácticos y menos dramáticos que lo acerquen a ser una parte generalizada de nuestras vidas.

Nuevas tecnologías de conectividad: un área específica en la que las bibliotecas pueden tener implicaciones inmediatas es el grado en que la tecnología de satélites de órbita terrestre baja puede crear oportunidades para poner más bibliotecas en línea. En las zonas rurales y en las que el acceso a Internet es deficiente, las bibliotecas podrían convertirse en centros locales.

Esta conectividad podría desbloquear el desarrollo en muchas otras áreas, desde el acceso a la educación y la sanidad hasta el apoyo a las pequeñas empresas e incluso la recopilación de datos que permitan tomar mejores decisiones.

Por supuesto, se trata de una tecnología relativamente nueva y muy dependiente de un único actor (Starlink), aunque están surgiendo otros. Tampoco es cierto que la simple puesta en línea de una biblioteca genere automáticamente todos estos beneficios potenciales: es necesario invertir en personal y en sus conocimientos, en contenidos de calidad y en hardware actualizado y resistente.

IA y derechos de cuarta generación: un concepto interesante del que se empieza a hablar es el de los derechos de cuarta generación: el derecho de las personas a ser individuos independientes en un mundo en el que las decisiones están cada vez más determinadas por la inteligencia artificial. Dado que la IA se basa, por supuesto, en tendencias pasadas, puede correr el riesgo de bloquear el presente y limitar la libertad de tomar decisiones diferentes en el futuro.

Esto se aplica a los individuos, pero también podría decirse que a los propios libreros, en la medida en que necesiten utilizar servicios que les resten capacidad para decidir cómo prestarlos. Ejemplos obvios son las plataformas de libros electrónicos que son curados por un algoritmo centralizado, o donde los materiales desaparecen sin previo aviso.

Por el lado positivo, la aparición de la noción de derechos de cuarta generación podría decirse que ofrece a las bibliotecas la oportunidad de subrayar su propia contribución no sólo a la ciudadanía digital (en un sentido más cívico y político), sino a la personalidad digital. Ayudando a las personas no sólo a ser usuarios de Internet, sino a ser usuarios informados y capacitados, podemos hacer mucho para que estos derechos se hagan realidad.

No hay que olvidar la inclusión digital: aunque no cabe duda de que hay un hilo conductor de inclusión en todas las cuestiones señaladas anteriormente, es necesario seguir centrándose en garantizar que todo el mundo pueda beneficiarse del potencial de Internet. Mantener la seguridad de las personas, garantizar que las plataformas funcionen para todos, la conectividad, una mayor participación de los gobiernos en favor de la equidad y, simplemente, dejar que las bibliotecas funcionen correctamente pueden desempeñar un papel importante.

Una oportunidad especial puede surgir en torno a la actualización de los Indicadores de Universalidad de Internet de la UNESCO, que proporcionan un marco para evaluar hasta qué punto los países cuentan con disposiciones para promover la inclusión digital. Trabajaremos para apoyar la participación de las bibliotecas tanto en estas evaluaciones como en el diseño de futuras ediciones.

En términos más generales, también deberíamos buscar oportunidades para garantizar que quienes lideran el desarrollo de estrategias de inclusión digital comprendan la contribución de las bibliotecas -con el apoyo adecuado- y asegurarse de que formamos parte de cualquiera de estos esfuerzos en el futuro.

Armados con ChatGPT, los ciberdelincuentes crean malware y traman falsos bots de chicas

Brewster, Thomas. «Armed With ChatGPT, Cybercriminals Build Malware And Plot Fake Girl Bots». Forbes. Accedido 27 de enero de 2023.

Ver original

Los usuarios de foros clandestinos empiezan a compartir malware codificado por la sensación viral de OpenAI y los estafadores de citas planean crear falsas chicas convincentes con la herramienta. Los pronosticadores cibernéticos predicen que se avecinan más usos maliciosos de ChatGPT.

Los ciberdelincuentes han empezado a utilizar ChatGPT, el chatbot de inteligencia artificial de OpenAI, para crear rápidamente herramientas de pirateo informático, advirtieron el viernes investigadores en ciberseguridad. Los estafadores también están probando la capacidad de ChatGPT para construir otros chatbots diseñados para hacerse pasar por mujeres jóvenes con el fin de captar objetivos, según declaró a Forbes un experto que monitoriza foros de delincuentes.

Muchos de los primeros usuarios de ChatGPT habían dado la voz de alarma ante la posibilidad de que la aplicación, que se hizo viral en los días posteriores a su lanzamiento en diciembre, pudiera codificar software malicioso capaz de espiar las pulsaciones del teclado de los usuarios o crear ransomware.

Según un informe de la empresa de seguridad israelí Check Point, los foros clandestinos de delincuentes han terminado por darse cuenta. En uno de los foros analizados por Check Point, un hacker que ya había compartido malware para Android mostraba un código escrito por ChatGPT que robaba archivos de interés, los comprimía y los enviaba a través de la web. Mostraron otra herramienta que instalaba una puerta trasera en un ordenador y podía cargar más malware en un PC infectado.

En el mismo foro, otro usuario compartió un código Python que podía cifrar archivos, afirmando que la aplicación de OpenAI les había ayudado a construirlo. Afirmaban que era el primer script que habían desarrollado. Como señaló Check Point en su informe, dicho código puede utilizarse con fines totalmente benignos, pero también podría «modificarse fácilmente para cifrar la máquina de alguien por completo sin ninguna interacción del usuario», de forma similar a como funciona el ransomware. El mismo usuario del foro había vendido anteriormente acceso a servidores de empresas pirateados y datos robados, señaló Check Point.

Un usuario también habló de «abusar» de ChatGPT haciendo que ayudara a codificar las características de un mercado de la web oscura, similar a los bazares de drogas como Silk Road o Alphabay. Como ejemplo, el usuario mostró cómo el bot de chat podía crear rápidamente una aplicación que monitorizara los precios de las criptomonedas para un sistema de pago teórico.

Alex Holden, fundador de la empresa de inteligencia cibernética Hold Security, dijo que había visto a estafadores de citas empezar a utilizar ChatGPT también, ya que tratan de crear personajes convincentes. «Están planeando crear chatbots para hacerse pasar sobre todo por chicas para llegar más lejos en los chats con sus marcas», dijo. «Intentan automatizar la charla ociosa».

OpenAI no había respondido a la solicitud de comentarios en el momento de la publicación.

Aunque las herramientas codificadas por ChatGPT parecían «bastante básicas», Check Point dijo que era sólo cuestión de tiempo hasta que hackers más «sofisticados» encontraran la forma de convertir la IA en su ventaja. Rik Ferguson, vicepresidente de inteligencia de seguridad de la empresa estadounidense de ciberseguridad Forescout, dijo que no parecía que ChatGPT fuera aún capaz de codificar algo tan complejo como las principales cepas de ransomware que se han visto en importantes incidentes de piratería informática en los últimos años, como Conti, tristemente célebre por su uso en la violación del sistema nacional de salud de Irlanda. La herramienta de OpenAI, sin embargo, reducirá la barrera de entrada para que los novatos se introduzcan en ese mercado ilícito mediante la creación de malware más básico, pero igualmente eficaz, añadió Ferguson.

También planteó la preocupación de que ChatGPT, en lugar de crear código que robe los datos de las víctimas, pueda utilizarse para crear sitios web y bots que engañen a los usuarios para que compartan su información. Podría «industrializar la creación y personalización de páginas web maliciosas, campañas de phishing muy selectivas y estafas basadas en ingeniería social», añadió Ferguson.

Sergey Shykevich, investigador de inteligencia de amenazas de Check Point, declaró a Forbes que ChatGPT será una «gran herramienta» para que los hackers rusos que no dominan el inglés elaboren correos electrónicos de phishing de apariencia legítima.

En cuanto a las protecciones contra el uso delictivo de ChatGPT, Shykevich dijo que, en última instancia y «por desgracia», tendrían que aplicarse mediante regulación. OpenAI ha implementado algunos controles, como la prevención de solicitudes obvias de ChatGPT para crear programas espía con advertencias de infracción de la política, aunque los hackers y los periodistas han encontrado formas de eludir esas protecciones. Shykevich afirma que quizá haya que obligar legalmente a empresas como OpenAI a entrenar a su IA para detectar este tipo de abusos.

Los chatbots de IA no sustituyen a la autoría humana: ChatGPT «¿Eres una persona real?»

George Tombs ‘Are You a Real Person?’: AI Chatbots No Substitute for Human Authorship», thestar.com. «Opinion 6 de enero de 2023.

Texto completo

ChatGPT, una aplicación de generación de textos mediante inteligencia artificial, está causando conmociones virales en todo el mundo. Desarrollada por una fundación financiada inicialmente por el inconformista tecnológico Elon Musk, ahora se presenta a menudo como una innovación que podría sustituir de un plumazo a categorías enteras de trabajos, haciendo superfluo el trabajo de muchos humanos.

Esta aplicación escanea millones de sitios web en un abrir y cerrar de ojos, recogiendo contenidos aquí y allá, y destilándolos en textos breves, estructurados y aparentemente coherentes. Todos esos sitios web y publicaciones en las redes sociales se tratan como contenido abstracto, listo para la primicia.

Al leer los comentarios de la prensa mundial sobre ChatGPT, se muestra una mezcla bastante peculiar de extravagancia, curiosidad, miedo y obsesión. Por ejemplo, algunos comentaristas se preguntan si el propio periodismo está condenado. Otros se preguntan si las universidades deberían exigir a los estudiantes que presenten trabajos de investigación escritos a mano, en lugar de mecanografiados en un ordenador.

Sin duda, esta tecnología de IA podría invadir el espacio interior de nuestras conciencias, empujándonos sutilmente a un salón virtual de espejos donde ya no podemos distinguir entre lo real y lo irreal. Podría engullir el esfuerzo humano en una oleada de algoritmos, transformando a algunos creadores literarios (novelistas, biógrafos, poetas, investigadores) en técnicos hábiles en la manipulación de simulaciones generadas automáticamente de la expresión humana.

Pero, ¿por qué no dar la vuelta a las cosas? Si una aplicación es una herramienta, seguro que puedo sacarle el máximo partido. Así que planteo la siguiente pregunta a este ChatGPT: «¿Eres una persona real?»

Tras nueve segundos, ChatGPT respondió:

«Soy un asistente informático basado en IA, no una persona real. Me diseñaron para ayudar con tareas, responder preguntas y proporcionar información a usuarios como tú. Aunque puedo entablar una conversación y realizar muchas tareas que podrían asociarse a una persona, no tengo sentimientos, pensamientos ni sensaciones físicas. Existo para ayudar a usuarios como tú de diversas maneras, y estoy aquí para ayudarte lo mejor que pueda. ¿Hay algo específico que le gustaría saber o discutir?».

Esta respuesta me parece refrescante, incluso cortés, como si el pequeño chatbot reconociera sus propias limitaciones.

Como autor, sé lo difícil, incluso tortuoso, que es el camino de la creación. He aprendido que el aspecto más difícil de crear una obra -incluso más que encontrar palabras para un libro o imágenes para una película- es encontrar tu propia voz.

Las obras creativas nos emocionan cuando cuentan nuevas historias de una manera poco convencional, cuando tienen una voz auténtica. Y esta voz es una de las muchas cosas que diferencian a los humanos de los chatbots.

Ser autor significa afirmar una identidad. Significa asumir la responsabilidad de lo que creas, compartir cada obra con el público y garantizar que se respeten tus derechos de propiedad intelectual.

Un chatbot nunca puede ser autor de nada. Sólo puede reordenar lo que ya se ha dicho, ya que da a los contenidos aleatorios un barniz de verosimilitud. Un chatbot no puede proporcionar un texto fiable, ya que refunde y fusiona cualquier cosa en la web, incluidas las teorías conspirativas, el negacionismo y el discurso del odio. La producción de un chatbot es, por tanto, puramente derivativa, y refleja la grandeza y la miseria de la condición humana.

Además, me he dado cuenta de que ChatGPT a veces suelta tonterías al azar. Me recuerda a mis experiencias, a menudo risibles, con otra aplicación de IA: el GPS de mi teléfono.

Cuando conduzco por las calles de mi nueva ciudad natal, Quebec, mi asistente GPS cambia aleatoriamente del francés al inglés, del inglés con acento parisino al inglés con acento neoyorquino. Como si en cada esquina mi asistente GPS sufriera un shock virtual, luchando por adaptarse a cada nueva geolocalización.

No me digan que los errores informáticos se deben a una programación humana imperfecta y no a la propia tecnología subyacente.

ChatGPT puede ser una herramienta útil. Como mínimo, esta aplicación nos incita a reflexionar más profundamente sobre la comunicación, que se basa en nuestras relaciones mutuas.

Como para tranquilizarme, ChatGPT añadió a lo que decía antes:

«Hay muchas diferencias entre una persona y un asistente informático de IA como yo. Una diferencia clave es que las personas son seres vivos con cuerpos físicos y conciencia, mientras que los asistentes de IA como yo son entidades puramente digitales que existen dentro de ordenadores u otros dispositivos electrónicos».

La autoría es (todavía) humana. Y pretendo que siga siendo así.

Más de 400 mayores aprenden a detectar estafas y a utilizar aplicaciones cotidianas

Ang, Shermaine. «Over 400 Seniors Learn How to Spot Scams, Use Everyday Apps at Smart Nation Grandparents’ Day Event». The Straits Times. 28 de noviembre de 2022. https://www.straitstimes.com/singapore/over-400-seniors-learn-how-to-spot-scams-use-everyday-apps-at-smart-nation-grandparents-day-event.

Más de 400 personas mayores aprendieron a utilizar aplicaciones cotidianas como PayLah y Singpass, así como a detectar señales de estafa, en un acto celebrado el lunes en la Biblioteca Nacional con motivo del primeDía de los Abuelos.

Asistieron a charlas y recibieron formación individualizada sobre el uso de los servicios públicos digitales en el acto organizado por Smart Nation Digital Government Office. El objetivo pretende que los mayores adopten la tecnología en su vida cotidiana.

El programa se basó en una encuesta realizada en septiembre por el organizador entre más de 100 singapurenses para averiguar qué quieren los mayores de los servicios digitales y cómo puede ayudar la tecnología a estrechar los lazos familiares.

Los resultados mostraron que los encuestados querían que la generación de más edad aprendiera a utilizar sus teléfonos inteligentes y a evitar estafas. Los encuestados también dijeron que actividades como hacer vídeos y digitalizar álbumes de fotos podrían fomentar las relaciones intergeneracionales. Los mayores de 60 años encuestados dijeron que no sabían qué aplicaciones utilizar para conectar con la generación más joven aparte de WhatsApp y que querían aprender más.

Es fácil perder el contacto con familiares que no han seguido el ritmo de los cambios. Y para algunos, seguir únicamente en el mundo analógico puede convertirse en un lugar cada vez más solitario. El apoyo de la familia es fundamental para que los mayores se adapten a la digitalización en su vida cotidiana.

Los mayores recibieron consejos sobre ciberseguridad en una charla el lunes. Entre ellos, tener una contraseña que sea una frase en lugar de una sola palabra, y no introducir información sensible en línea cuando se utiliza Wi-Fi gratuito, ya que los hackers podrían estar suplantando una red pública para obtener los datos de los usuarios.

También pueden acudir a centros comunitarios y bibliotecas públicas para sesiones individuales con un embajador digital.

PaLM + RLHF: una alternativa de código abierto a ChatGPT

Wiggers, Kyle. «There’s Now an Open Source Alternative to ChatGPT, but Good Luck Running It». TechCrunch (blog), 30 de diciembre de 2022. https://techcrunch.com/2022/12/30/theres-now-an-open-source-alternative-to-chatgpt-but-good-luck-running-it/

Esta semana, Philip Wang, el desarrollador responsable de la ingeniería inversa de sistemas de IA de código cerrado, como Make-A-Video de Meta, ha lanzado PaLM + RLHF, un modelo de generación de texto que se comporta de forma similar a ChatGPT. El sistema combina PaLM, un gran modelo lingüístico de Google, y una técnica llamada Aprendizaje por Refuerzo con Retroalimentación Humana (RLHF, por sus siglas en inglés) para crear un sistema capaz de realizar prácticamente cualquier tarea que ChatGPT pueda realizar, incluida la redacción de correos electrónicos y la sugerencia de código informático.

Pero PaLM + RLHF no está preentrenado. Es decir, el sistema no ha sido entrenado con los datos de ejemplo de la web necesarios para que realmente funcione. Descargar PaLM + RLHF no te proporcionará por arte de magia una experiencia similar a la de ChatGPT, ya que para ello sería necesario compilar gigabytes de texto a partir de los cuales el modelo pueda aprender y encontrar un hardware lo suficientemente potente como para soportar la carga de trabajo del entrenamiento.

Al igual que ChatGPT, PaLM + RLHF es esencialmente una herramienta estadística para predecir palabras. Cuando se le alimenta con un enorme número de ejemplos de datos de entrenamiento -por ejemplo, entradas de Reddit, artículos de noticias y libros electrónicos-, PaLM + RLHF aprende la probabilidad de que aparezcan palabras basándose en patrones como el contexto semántico del texto circundante.

ChatGPT y PaLM + RLHF comparten una salsa especial en el Aprendizaje por Refuerzo con Retroalimentación Humana, una técnica que pretende alinear mejor los modelos lingüísticos con lo que los usuarios desean que logren. RLHF consiste en entrenar un modelo lingüístico -en el caso de PaLM + RLHF, PaLM- y afinarlo en un conjunto de datos que incluye preguntas (por ejemplo, «Explica el aprendizaje automático a un niño de seis años») junto con lo que los voluntarios humanos esperan que diga el modelo (por ejemplo, «El aprendizaje automático es una forma de IA…»). A continuación, los voluntarios clasifican todas las respuestas de mejor a peor. Por último, las clasificaciones se utilizan para entrenar un «modelo de recompensa» que toma las respuestas del modelo original y las clasifica por orden de preferencia, filtrando las mejores respuestas a una pregunta determinada.

Recopilar los datos de entrenamiento es un proceso costoso. Y el entrenamiento en sí no es barato. PaLM tiene un tamaño de 540.000 millones de parámetros, entendiendo por «parámetros» las partes del modelo lingüístico aprendidas a partir de los datos de entrenamiento. Un estudio de 2020 cifraba en 1,6 millones de dólares los gastos de desarrollo de un modelo de generación de texto con sólo 1.500 millones de parámetros. Y para entrenar el modelo de código abierto Bloom, que tiene 176.000 millones de parámetros, se necesitaron tres meses utilizando 384 GPU Nvidia A100; una sola A100 cuesta miles de dólares.

Ejecutar un modelo entrenado del tamaño de PaLM + RLHF tampoco es trivial. Bloom requiere un PC dedicado con unas ocho GPU A100. Las alternativas en la nube son caras: según los cálculos aproximados, el coste de ejecutar el GPT-3 de generación de texto de OpenAI (que tiene unos 175.000 millones de parámetros) en una única instancia de Amazon Web Services es de unos 87.000 dólares al año.