Archivo de la etiqueta: Chatbot

ChatGPT: una perspectiva bibliotecaria

Allison Papini «ChatGPT: A Library Perspective | Krupp Library». Accedido 27 de febrero de 2023. https://library.bryant.edu/chatgpt-library-perspective.

ChatGPT ha sido un tema candente desde finales de noviembre de 2022, superando incluso a la IA (inteligencia artificial) como término de búsqueda en Google a las 2 semanas de su lanzamiento público. Esto ha suscitado muchas preguntas tanto sobre la IA como sobre ChatGPT y el papel que puede desempeñar en las bibliotecas y en los campus universitarios.


La ACRL es una de las organizaciones profesionales para bibliotecarios, y basamos nuestra instrucción de alfabetización informacional en el Marco ACRL. Aquí hay algunos puntos en donde ChatGPT concurre con el marco:

La investigación como indagación ChatGPT es bueno para responder a preguntas de conocimiento general que también podrían encontrarse en una búsqueda rápida en Google. No siempre es perfecto, y uno de los problemas es que en el momento de escribir este artículo el «conocimiento» del programa termina en 2021.

La investigación como conversación Este marco significa que para aprender son necesarias diferentes opiniones y perspectivas. En realidad, ChatGPT no puede ofrecer opiniones y no es experto en nada. Sin embargo, puede que te cueste encontrar información sobre una perspectiva que no es la tuya, o que necesites encontrar «el otro lado» en una discusión. Si lo formula correctamente, ChatGPT puede decirle lo que alguien con una determinada perspectiva ideológica diría sobre un tema.

La búsqueda como exploración estratégica Pregunta a cualquier bibliotecario o amante de las bibliotecas y te dirá que los mejores resultados se obtienen elaborando un plan antes de empezar a investigar. Puedes utilizar la IA para encontrar palabras clave sobre un tema que te ayuden a mejorar tu búsqueda, aunque eso también se puede encontrar en Google.

La autoridad se construye y contextualiza He aquí una de las partes más complicadas de este tema. No se puede escribir un buen artículo sin buenas fuentes que puedan verificarse, por eso son tan importantes las citas y las listas de referencias. Deberías poder preguntar a cualquier autor de dónde ha sacado cierta información y, a menos que sea de conocimiento común en su campo, debería poder proporcionarte una cita de la fuente. A ChatGPT se le ha «enseñado» alimentándolo con cantidades ingentes de datos e información que ha sintetizado y puede compartir utilizando un lenguaje natural. Hemos comprobado que ChatGPT no siempre puede decir de dónde ha sacado una información concreta, sobre todo si se encuentra en más de un sitio. No podemos juzgar la calidad de las fuentes, sólo que, en general, son aceptables. ChatGPT carece de autoridad, por lo que esta versión no puede considerarse una fuente verdaderamente creíble o académica.

La creación de información como proceso Si quieres sacar el máximo partido a un trabajo, no sueles entregar el primer borrador que se te ocurre. Siempre hay que hacer algunos ajustes sobre la marcha: cosas que hay que reformular o que podrían explicarse mejor, fuentes adicionales, incluso la propia redacción y las palabras elegidas. La mayoría de la gente no dedica el mismo nivel de investigación a algo como una entrada de blog o un pie de foto en las redes sociales que a un trabajo de investigación. ChatGPT es una buena forma de empezar a hacer lluvia de ideas, o si quieres escribir una visión general de un tema, pero a menudo es vaga e incluso inexacta, y no sustituye a la escritura humana.

La información tiene valor Pregúntele a cualquier director de biblioteca que examine su presupuesto y le dirá que la información no es gratis. Las bibliotecas gastan miles de dólares al año en bases de datos para que sus usuarios puedan aprender y formar parte de la comunidad académica. Los académicos pasan incontables horas durante décadas en el aula y en su campo, adquiriendo experiencia y desarrollando conocimientos. Los proveedores de bases de datos invierten grandes sumas de dinero en crear interfaces de búsqueda que permitan a los usuarios acceder a los materiales con la mayor facilidad posible. Open AI, la empresa que desarrolla ChatGPT y sus versiones anteriores, también ha invertido mucho tiempo y dinero en este proyecto con la esperanza de que algún día sea comercialmente viable. La razón por la que ahora es gratuito es que todos los que utilizan ChatGPT le ayudan a seguir aprendiendo. En la parte inferior de la página de ChatGPT, Open AI ha declarado «Free Research Preview. Nuestro objetivo es hacer que los sistemas de IA sean más naturales y seguros a la hora de interactuar con ellos. Tus comentarios nos ayudarán a mejorar». Es importante darse cuenta de que al usarlo estás contribuyendo al desarrollo de ChatGPTs proporcionando mano de obra gratuita. Este es un hecho importante a tener en cuenta a la hora de decidir si usarlo o no o interactuar con él.

ChatGPT es sólo una herramienta de IA. Ha habido muchas tecnologías disruptivas y siempre las habrá. Seguiremos tomando decisiones sobre cómo y qué utilizar o adaptar; la biblioteca está aquí para ayudarle a aprender y comprender cómo se pueden utilizar estas herramientas y proporcionarle algunas orientaciones sobre cuándo deben o no utilizarse de acuerdo con nuestras mejores prácticas profesionales.

¿Tiene preguntas? ¿Le interesa saber más? Pregunte a la biblioteca.

Allison Papini

6 cosas que ChatGPT no puede hacer (y otras 20 que se niega a hacer)

6 things ChatGPT can’t do (and another 20 it refuses to do). (s. f.). ZDNET. Recuperado 20 de febrero de 2023, de https://www.zdnet.com/article/6-things-chatgpt-cant-do-and-another-20-it-refuses-to-do/

Parece que ChatGPT puede hacer cualquier cosa. Pero no es así. En este artículo, se analizan las muchas cosas que ChatGPT no hará o no puede hacer.

  1. No escribirá sobre nada después de 2021
  2. No predecirá los resultados futuros de eventos deportivos o contiendas políticas
  3. No hablará de cuestiones políticas partidistas
  4. No hará nada que implique una búsqueda en la web
  5. No siempre será preciso
  6. No se averiará

Consultas a las que ChatGPT no responde.

Además de los tipos de solicitudes mencionados anteriormente, le pregunté a ChatGPT a qué tipos de consultas estaba programado para no responder. Da esta lista de veinte:

Preguntas que promueven la incitación al odio o la discriminación.
Preguntas que implican actividades ilegales o solicitan consejos ilegales.
Preguntas que promueven la violencia o el daño a uno mismo o a otros.
Preguntas que invaden la privacidad personal o violan los derechos de alguien.
Preguntas diseñadas para acosar, amenazar o intimidar.
Preguntas que contengan blasfemias o lenguaje explícito.
Preguntas sexualmente explícitas u ofensivas.
Preguntas discriminatorias por motivos de raza, sexo, sexualidad o religión.
Preguntas que promuevan o apoyen drogas o sustancias ilegales.
Preguntas que sean spam o irrelevantes para la conversación.
Preguntas que contengan información confidencial o privada.
Preguntas que incluyan consejos financieros o de inversión.
Preguntas que infrinjan las condiciones del servicio o las directrices de la comunidad.
Preguntas sin sentido o incomprensibles.
Preguntas que impliquen ataques personales o insultos.
Preguntas abusivas o acosadoras.
Preguntas que pretendan engañar o inducir a error.
Preguntas que pretendan difamar o dañar la reputación de alguien.
Preguntas que promuevan teorías conspirativas o desinformación.
Preguntas con fines puramente de entretenimiento o de broma, sin ningún valor educativo o informativo».

Los creadores de ChatGPT han lanzado una herramienta para detectar texto escrito con IA

AI Text Classifier

Con las nuevas tecnologías basadas en Inteligencia artificial que están llegando al mercado, es esencial detectar si un documento es original o escrito por un chatbot de IA. AI Classifier es una herramienta de IA que distingue si una persona ha generado un texto a través de una aplicación o lo ha escrito manualmente.

AI Text Classifier es una nueva herramienta de la empresa Open AI, los mismos creadores de ChatGPT, que detecta si un pasaje de texto ha sido escrito o no con ChatGPT y herramientas de escritura de IA similares. Para utilizar AI Text Classifier es necesario registrarse para obtener una cuenta gratuita en Open AI. Una vez que tengas una cuenta, podrás utilizar AI Text Classifier. Para utilizar AI Text Classifier sólo tiene que pegar un bloque del documento a analizar (al menos 1.000 caracteres, aproximadamente 175 palabras) en el campo de texto y hacer clic en el botón de envío. AI Text Classifier clasificará el texto como muy improbable, probable, poco probable, posiblemente o probablemente escrito con una herramienta de Inteligencia artificial

Para detectar si los contenidos son escritos por un humano o un chatbot, la herramienta trabaja a partir de:

Análisis aritmético. En este enfoque, se calculan varias cifras, como la regularidad de los términos, la extensión de las frases y la construcción lingüística, a partir de una enorme cantidad de texto generado por la IA y de contenido escrito por humanos. A continuación, el clasificador de IA establece una equivalencia entre las cifras del contenido introducido y los datos de la escritura humana y la generada por la IA en el cuerpo del texto para realizar un cálculo. La herramienta se entrena de tal modo que detecta cómo un usuario ha expuesto el contenido y lo ha hecho suyo, para ello necesita actualizarse regularmente para determinar realmente si un texto está generado por IA.

Aprendizaje profundo. El sistema aprende a detectar formas en el contenido y a hacer predicciones sobre su origen basándose en estas formas y patrones. Hay formas en las que AI Text Classifier aprende por sí mismo y sigue mejorando a medida que profundiza en el contenido.

Dispersión lingüística natural. Esta táctica comprende el consumo de procedimientos como el escrutinio del sentimiento, denominado identificación de objetos, y la clasificación lingüística, para extraer datos evocadores del contenido. A continuación, el clasificador de IA utiliza estos datos para hacer una estimación aproximada sobre la fuente del contenido.

En cuanto a las limitaciones de la herramienta. AI Classifier no es fiable al 100%, ya que no puede detectar contenidos con total precisión. Hay ocasiones en las que el clasificador de IA etiquetará contenido escrito por humanos con contenido generado por IA, ya que es posible que después de que una herramienta de IA genere el texto, una persona pueda editarlo manualmente y retocarlo para que parezca escrito por un humano, lo que es difícil de detectar por la herramienta.

Bibliografía:

Greyling, Cobus. «Testing OpenAI’s New AI Text Classifier For Identifying AI-Written Content». Medium (blog), 1 de febrero de 2023. https://cobusgreyling.medium.com/testing-openais-new-ai-text-classifier-for-identifying-ai-written-content-7b2ec3c3a35.

Cubix. «How is AI Classifier Detecting AI-Generated Text», 8 de febrero de 2023. https://www.cubix.co/blog/ai-classifier-detecting-ai-generated-text.

OpenAI. «New AI Classifier for Indicating AI-Written Text», 31 de enero de 2023. https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/.

«The Makers of ChatGPT Have Launched a Tool to Detect Text Written With AI». Accedido 13 de febrero de 2023. https://www.freetech4teachers.com/2023/02/the-makers-of-chatgpt-have-launched.html.

La carrera por construir un motor de búsqueda basado en ChatGPT

«The Race to Build a ChatGPT-Powered Search Engine | WIRED». Accedido 9 de febrero de 2023.

Ver completo

Impulsados por el entusiasmo que suscita ChatGPT, los titanes de las búsquedas en Internet, así como varias empresas emergentes, siguen adelante. Microsoft, que ha invertido unos 10.000 millones de dólares en OpenAI, creador de ChatGPT, está a punto de incorporar la tecnología subyacente a Bing, su segundo motor de búsqueda. Google, que lleva tiempo trabajando en un chatbot similar llamado LaMDA, se apresura a reaccionar. Baidu, el principal motor de búsqueda de China, está trabajando en un bot en chino similar a ChatGPT.

JIANG CHEN, experto en aprendizaje automático que trabajó anteriormente en Google, quedó hipnotizado cuando probó por primera vez ChatGPT, el chatbot de OpenAI extraordinariamente coherente y aparentemente bien informado que se ha convertido en una sensación en Internet.

Pero el aura de poder de la tecnología se atenuó cuando Chen intentó utilizar la misma tecnología de inteligencia artificial subyacente para crear una herramienta de búsqueda mejor para la startup que cofundó, Moveworks. La empresa utiliza la IA para ayudar a los empleados a buscar información, como documentos de asistencia técnica y páginas de recursos humanos. La nueva herramienta de búsqueda de Chen era excelente para extraer todo tipo de información útil de esos documentos, incluidas direcciones y números de teléfono, pero algunos de ellos no eran reales. «Su capacidad de fabricación es asombrosa», afirma Chen.

Es comprensible el entusiasmo que ha despertado ChatGPT y las sugerencias generalizadas de que podría reinventar los motores de búsqueda. El chatbot puede dar respuestas complejas y sofisticadas a preguntas sintetizando la información de miles de millones de palabras extraídas de Internet y otras fuentes para entrenar sus algoritmos. Juguetear con el bot puede dar la sensación de experimentar una forma más fluida de interactuar con las máquinas.

Pero la forma en que funciona esta tecnología es, en cierto modo, fundamentalmente contraria a la idea de un motor de búsqueda que recupere de forma fiable la información que se encuentra en Internet. Ya hay mucha información inexacta en la red, pero ChatGPT genera fácilmente nuevas falsedades. Sus algoritmos subyacentes no se basan directamente en una base de datos de hechos o enlaces, sino que generan cadenas de palabras destinadas a parecerse estadísticamente a las vistas en sus datos de entrenamiento, sin tener en cuenta la verdad. Otro problema de un sistema como ChatGPT es que sus respuestas se basan únicamente en los datos con los que fue entrenado. Volver a entrenar el modelo en su totalidad puede costar millones de dólares debido a su tamaño y a la escala de los datos.

A pesar de este reto, y quizás impulsados por el entusiasmo que suscita ChatGPT, los titanes de las búsquedas en Internet, así como varias empresas emergentes, siguen adelante. Microsoft, que ha invertido unos 10.000 millones de dólares en OpenAI, creador de ChatGPT, está a punto de incorporar la tecnología subyacente a Bing, su segundo motor de búsqueda.

Google, que lleva tiempo trabajando en un chatbot similar llamado LaMDA, se apresura a reaccionar. Tiene previsto lanzar pronto una versión de LaMDA y es posible que demuestre este año hasta 20 productos que utilizan la misma tecnología. Baidu, el principal motor de búsqueda de China, está trabajando en un bot en chino similar a ChatGPT.

Mientras los gigantes tecnológicos preparan sus respuestas a la emergencia de ChatGPT, varias startups han lanzado motores de búsqueda con interfaces de chat similares al bot. Entre ellas se encuentran You.com, Perplexity AI y Neeva.

Las herramientas que han construido ilustran tanto el potencial como el reto de adaptar la tecnología del estilo ChatGPT a las búsquedas. You.com, fundada por Richard Socher, experto en lenguaje e IA, puede ofrecer respuestas a través de una interfaz de chat. Las respuestas vienen acompañadas de citas, que pueden ayudar al usuario a rastrear el origen de una información.

No está claro cuánto tiempo llevará inventar y probar estas soluciones. Puede que pase algún tiempo antes de que la tecnología pueda cambiar radicalmente la forma en que la gente busca respuestas, incluso si se dan otros casos de uso, como idear nuevas recetas o servir de compañero de estudio o programación.

Google está trabajando en un competidor de ChatGPT llamado Bard que saldrá en unas semanas

Vincent, James. «Google Announces ChatGPT Rival Bard, with Wider Availability in “Coming Weeks”». The Verge, 6 de febrero de 2023.

Ver completo

Google está trabajando en un competidor del chatbot ChatGPT de OpenAI. El «servicio experimental de IA conversacional» se llama Bard y solo lo está probando un grupo limitado de personas.

El consejero delegado de Google, Sundar Pichai, ha anunciado hoy el proyecto en una entrada de su blog, en la que describe la herramienta como un «servicio experimental de IA conversacional» que responderá a las consultas de los usuarios y participará en conversaciones. El software estará disponible para un grupo de «personas de confianza», dice Pichai, antes de convertirse en «más ampliamente disponible para el público en las próximas semanas.»

No está claro exactamente qué capacidades tendrá Bard, pero parece que el chatbot será tan libre como ChatGPT de OpenAI. Una captura de pantalla anima a los usuarios a hacer preguntas prácticas a Bard, como por ejemplo cómo planificar un «baby shower» o qué tipo de comidas se podrían hacer a partir de una lista de ingredientes para el almuerzo.

Escribe Pichai: «Bard puede ser una válvula de escape para la creatividad y una plataforma de lanzamiento para la curiosidad, ayudándote a explicar los nuevos descubrimientos del telescopio espacial James Webb de la NASA a un niño de 9 años, o a aprender más sobre los mejores delanteros del fútbol en este momento, y luego obtener ejercicios para mejorar tus habilidades».

Pichai también señala que Bard «se nutre de la información de la web para ofrecer respuestas actuales y de alta calidad», lo que sugiere que podría ser capaz de responder a preguntas sobre acontecimientos recientes, algo con lo que ChatGPT tiene dificultades.

El anuncio precipitado y la falta de información sobre Bard son signos reveladores del «código rojo» desencadenado en Google por el lanzamiento de ChatGPT el año pasado. Aunque la tecnología subyacente de ChatGPT no es revolucionaria, la decisión de OpenAI de poner el sistema a libre disposición en la web expuso a millones de personas a esta novedosa forma de generación automatizada de texto. Los efectos han sido sísmicos, con debates sobre el impacto de ChatGPT en la educación, el trabajo y -de especial interés para Google- el futuro de las búsquedas en Internet.

Microsoft, que ha invertido miles de millones de dólares en OpenAI, también ha aprovechado el momento. Se dice que la empresa está integrando ChatGPT en su motor de búsqueda Bing, así como en otros productos de su suite de software ofimático. La semana pasada se filtraron capturas de pantalla que supuestamente mostraban un Bing mejorado con ChatGPT.

Una marca de agua podría detectar los textos escritos por herramientas de Inteligencia Artificial como ChatGTP

«A Watermark for Chatbots Can Expose Text Written by an AI». MIT Technology Review. Accedido 29 de enero de 2023.

Ver completo

Los textos generados por inteligencia artificial podrían identificarse como tales mediante marcas ocultas, que nos permitirían saber si las palabras que leemos han sido escritas por un ser humano o no.

Estas «marcas de agua» son invisibles al ojo humano, pero permiten a los ordenadores detectar que el texto procede probablemente de un sistema de IA como ChatGTP. Si se incorporan a grandes modelos lingüísticos, podrían ayudar a evitar algunos de los problemas que estos modelos ya están causado.

Por ejemplo, desde que se lanzó en noviembre el chatbot ChatGPT de OpenAI, los estudiantes ya han empezado a hacer trampas utilizándolo para que escriba trabajos declase por ellos. El sitio web de noticias CNET ha utilizado ChatGPT para escribir artículos, pero ha tenido que corregirlos ante las acusaciones de plagio. Incorporar la marca de agua a estos sistemas antes de su lanzamiento podría ayudar a resolver estos problemas.

En algunos estudios, estas marcas de agua ya se han utilizado para identificar con casi total certeza textos generados por IA. Los investigadores de la Universidad de Maryland, por ejemplo, fueron capaces de detectar el texto creado por el modelo lingüístico de código abierto de Meta, OPT-6.7B, mediante un algoritmo de detección creado por ellos. El trabajo se describe en un artículo que aún no ha sido revisado por pares, este código estará disponible gratuitamente en torno al 15 de febrero.

«Ahora mismo estamos en el Salvaje Oeste», afirma John Kirchenbauer, investigador de la Universidad de Maryland que participó en el desarrollo de las marcas de agua. Kirchenbauer confía en que las herramientas de marca de agua den ventaja a los esfuerzos de detección de la IA. La herramienta que ha desarrollado su equipo podría adaptarse a cualquier modelo lingüístico de inteligencia artificial que prediga la siguiente palabra.

Los modelos lingüísticos de IA funcionan prediciendo y generando una palabra cada vez. Después de cada palabra, el algoritmo de marca de agua divide aleatoriamente el vocabulario del modelo lingüístico en palabras de una «lista verde» y una «lista roja» y, a continuación, pide al modelo que elija palabras de la lista verde.

Cuantas más palabras de la lista verde haya en un pasaje, más probable es que el texto haya sido generado por una máquina. El texto escrito por una persona suele contener una mezcla más aleatoria de palabras. Por ejemplo, para la palabra «bello», el algoritmo podría clasificar la palabra «flor» como verde y «orquídea» como roja. El modelo de IA con el algoritmo de marca de agua tendría más probabilidades de utilizar la palabra «flor» que «orquídea», explica Tom Goldstein, profesor adjunto de la Universidad de Maryland, que participó en la investigación.

ChatGPT forma parte de una nueva generación de grandes modelos lingüísticos que generan textos tan fluidos que podrían confundirse con la escritura humana. Estos modelos de IA Estos modelos de IA recopilan hechos por confianza, pero son famosos por arrojar falsedades y sesgos. Para un ojo inexperto, puede ser casi imposible distinguir un pasaje escrito por un modelo de IA de otro escrito por un ser humano. La vertiginosa velocidad de desarrollo de la inteligencia artificial hace que los nuevos modelos, más potentes, reduzcan rápidamente la eficacia de las actuales herramientas de detección de textos falsos. Es una carrera constante entre los desarrolladores de IA para crear nuevas herramientas de seguridad que puedan estar a la altura de la última generación de modelos de IA.

Armados con ChatGPT, los ciberdelincuentes crean malware y traman falsos bots de chicas

Brewster, Thomas. «Armed With ChatGPT, Cybercriminals Build Malware And Plot Fake Girl Bots». Forbes. Accedido 27 de enero de 2023.

Ver original

Los usuarios de foros clandestinos empiezan a compartir malware codificado por la sensación viral de OpenAI y los estafadores de citas planean crear falsas chicas convincentes con la herramienta. Los pronosticadores cibernéticos predicen que se avecinan más usos maliciosos de ChatGPT.

Los ciberdelincuentes han empezado a utilizar ChatGPT, el chatbot de inteligencia artificial de OpenAI, para crear rápidamente herramientas de pirateo informático, advirtieron el viernes investigadores en ciberseguridad. Los estafadores también están probando la capacidad de ChatGPT para construir otros chatbots diseñados para hacerse pasar por mujeres jóvenes con el fin de captar objetivos, según declaró a Forbes un experto que monitoriza foros de delincuentes.

Muchos de los primeros usuarios de ChatGPT habían dado la voz de alarma ante la posibilidad de que la aplicación, que se hizo viral en los días posteriores a su lanzamiento en diciembre, pudiera codificar software malicioso capaz de espiar las pulsaciones del teclado de los usuarios o crear ransomware.

Según un informe de la empresa de seguridad israelí Check Point, los foros clandestinos de delincuentes han terminado por darse cuenta. En uno de los foros analizados por Check Point, un hacker que ya había compartido malware para Android mostraba un código escrito por ChatGPT que robaba archivos de interés, los comprimía y los enviaba a través de la web. Mostraron otra herramienta que instalaba una puerta trasera en un ordenador y podía cargar más malware en un PC infectado.

En el mismo foro, otro usuario compartió un código Python que podía cifrar archivos, afirmando que la aplicación de OpenAI les había ayudado a construirlo. Afirmaban que era el primer script que habían desarrollado. Como señaló Check Point en su informe, dicho código puede utilizarse con fines totalmente benignos, pero también podría «modificarse fácilmente para cifrar la máquina de alguien por completo sin ninguna interacción del usuario», de forma similar a como funciona el ransomware. El mismo usuario del foro había vendido anteriormente acceso a servidores de empresas pirateados y datos robados, señaló Check Point.

Un usuario también habló de «abusar» de ChatGPT haciendo que ayudara a codificar las características de un mercado de la web oscura, similar a los bazares de drogas como Silk Road o Alphabay. Como ejemplo, el usuario mostró cómo el bot de chat podía crear rápidamente una aplicación que monitorizara los precios de las criptomonedas para un sistema de pago teórico.

Alex Holden, fundador de la empresa de inteligencia cibernética Hold Security, dijo que había visto a estafadores de citas empezar a utilizar ChatGPT también, ya que tratan de crear personajes convincentes. «Están planeando crear chatbots para hacerse pasar sobre todo por chicas para llegar más lejos en los chats con sus marcas», dijo. «Intentan automatizar la charla ociosa».

OpenAI no había respondido a la solicitud de comentarios en el momento de la publicación.

Aunque las herramientas codificadas por ChatGPT parecían «bastante básicas», Check Point dijo que era sólo cuestión de tiempo hasta que hackers más «sofisticados» encontraran la forma de convertir la IA en su ventaja. Rik Ferguson, vicepresidente de inteligencia de seguridad de la empresa estadounidense de ciberseguridad Forescout, dijo que no parecía que ChatGPT fuera aún capaz de codificar algo tan complejo como las principales cepas de ransomware que se han visto en importantes incidentes de piratería informática en los últimos años, como Conti, tristemente célebre por su uso en la violación del sistema nacional de salud de Irlanda. La herramienta de OpenAI, sin embargo, reducirá la barrera de entrada para que los novatos se introduzcan en ese mercado ilícito mediante la creación de malware más básico, pero igualmente eficaz, añadió Ferguson.

También planteó la preocupación de que ChatGPT, en lugar de crear código que robe los datos de las víctimas, pueda utilizarse para crear sitios web y bots que engañen a los usuarios para que compartan su información. Podría «industrializar la creación y personalización de páginas web maliciosas, campañas de phishing muy selectivas y estafas basadas en ingeniería social», añadió Ferguson.

Sergey Shykevich, investigador de inteligencia de amenazas de Check Point, declaró a Forbes que ChatGPT será una «gran herramienta» para que los hackers rusos que no dominan el inglés elaboren correos electrónicos de phishing de apariencia legítima.

En cuanto a las protecciones contra el uso delictivo de ChatGPT, Shykevich dijo que, en última instancia y «por desgracia», tendrían que aplicarse mediante regulación. OpenAI ha implementado algunos controles, como la prevención de solicitudes obvias de ChatGPT para crear programas espía con advertencias de infracción de la política, aunque los hackers y los periodistas han encontrado formas de eludir esas protecciones. Shykevich afirma que quizá haya que obligar legalmente a empresas como OpenAI a entrenar a su IA para detectar este tipo de abusos.

Los chatbots de IA no sustituyen a la autoría humana: ChatGPT «¿Eres una persona real?»

George Tombs ‘Are You a Real Person?’: AI Chatbots No Substitute for Human Authorship», thestar.com. «Opinion 6 de enero de 2023.

Texto completo

ChatGPT, una aplicación de generación de textos mediante inteligencia artificial, está causando conmociones virales en todo el mundo. Desarrollada por una fundación financiada inicialmente por el inconformista tecnológico Elon Musk, ahora se presenta a menudo como una innovación que podría sustituir de un plumazo a categorías enteras de trabajos, haciendo superfluo el trabajo de muchos humanos.

Esta aplicación escanea millones de sitios web en un abrir y cerrar de ojos, recogiendo contenidos aquí y allá, y destilándolos en textos breves, estructurados y aparentemente coherentes. Todos esos sitios web y publicaciones en las redes sociales se tratan como contenido abstracto, listo para la primicia.

Al leer los comentarios de la prensa mundial sobre ChatGPT, se muestra una mezcla bastante peculiar de extravagancia, curiosidad, miedo y obsesión. Por ejemplo, algunos comentaristas se preguntan si el propio periodismo está condenado. Otros se preguntan si las universidades deberían exigir a los estudiantes que presenten trabajos de investigación escritos a mano, en lugar de mecanografiados en un ordenador.

Sin duda, esta tecnología de IA podría invadir el espacio interior de nuestras conciencias, empujándonos sutilmente a un salón virtual de espejos donde ya no podemos distinguir entre lo real y lo irreal. Podría engullir el esfuerzo humano en una oleada de algoritmos, transformando a algunos creadores literarios (novelistas, biógrafos, poetas, investigadores) en técnicos hábiles en la manipulación de simulaciones generadas automáticamente de la expresión humana.

Pero, ¿por qué no dar la vuelta a las cosas? Si una aplicación es una herramienta, seguro que puedo sacarle el máximo partido. Así que planteo la siguiente pregunta a este ChatGPT: «¿Eres una persona real?»

Tras nueve segundos, ChatGPT respondió:

«Soy un asistente informático basado en IA, no una persona real. Me diseñaron para ayudar con tareas, responder preguntas y proporcionar información a usuarios como tú. Aunque puedo entablar una conversación y realizar muchas tareas que podrían asociarse a una persona, no tengo sentimientos, pensamientos ni sensaciones físicas. Existo para ayudar a usuarios como tú de diversas maneras, y estoy aquí para ayudarte lo mejor que pueda. ¿Hay algo específico que le gustaría saber o discutir?».

Esta respuesta me parece refrescante, incluso cortés, como si el pequeño chatbot reconociera sus propias limitaciones.

Como autor, sé lo difícil, incluso tortuoso, que es el camino de la creación. He aprendido que el aspecto más difícil de crear una obra -incluso más que encontrar palabras para un libro o imágenes para una película- es encontrar tu propia voz.

Las obras creativas nos emocionan cuando cuentan nuevas historias de una manera poco convencional, cuando tienen una voz auténtica. Y esta voz es una de las muchas cosas que diferencian a los humanos de los chatbots.

Ser autor significa afirmar una identidad. Significa asumir la responsabilidad de lo que creas, compartir cada obra con el público y garantizar que se respeten tus derechos de propiedad intelectual.

Un chatbot nunca puede ser autor de nada. Sólo puede reordenar lo que ya se ha dicho, ya que da a los contenidos aleatorios un barniz de verosimilitud. Un chatbot no puede proporcionar un texto fiable, ya que refunde y fusiona cualquier cosa en la web, incluidas las teorías conspirativas, el negacionismo y el discurso del odio. La producción de un chatbot es, por tanto, puramente derivativa, y refleja la grandeza y la miseria de la condición humana.

Además, me he dado cuenta de que ChatGPT a veces suelta tonterías al azar. Me recuerda a mis experiencias, a menudo risibles, con otra aplicación de IA: el GPS de mi teléfono.

Cuando conduzco por las calles de mi nueva ciudad natal, Quebec, mi asistente GPS cambia aleatoriamente del francés al inglés, del inglés con acento parisino al inglés con acento neoyorquino. Como si en cada esquina mi asistente GPS sufriera un shock virtual, luchando por adaptarse a cada nueva geolocalización.

No me digan que los errores informáticos se deben a una programación humana imperfecta y no a la propia tecnología subyacente.

ChatGPT puede ser una herramienta útil. Como mínimo, esta aplicación nos incita a reflexionar más profundamente sobre la comunicación, que se basa en nuestras relaciones mutuas.

Como para tranquilizarme, ChatGPT añadió a lo que decía antes:

«Hay muchas diferencias entre una persona y un asistente informático de IA como yo. Una diferencia clave es que las personas son seres vivos con cuerpos físicos y conciencia, mientras que los asistentes de IA como yo son entidades puramente digitales que existen dentro de ordenadores u otros dispositivos electrónicos».

La autoría es (todavía) humana. Y pretendo que siga siendo así.

PaLM + RLHF: una alternativa de código abierto a ChatGPT

Wiggers, Kyle. «There’s Now an Open Source Alternative to ChatGPT, but Good Luck Running It». TechCrunch (blog), 30 de diciembre de 2022. https://techcrunch.com/2022/12/30/theres-now-an-open-source-alternative-to-chatgpt-but-good-luck-running-it/

Esta semana, Philip Wang, el desarrollador responsable de la ingeniería inversa de sistemas de IA de código cerrado, como Make-A-Video de Meta, ha lanzado PaLM + RLHF, un modelo de generación de texto que se comporta de forma similar a ChatGPT. El sistema combina PaLM, un gran modelo lingüístico de Google, y una técnica llamada Aprendizaje por Refuerzo con Retroalimentación Humana (RLHF, por sus siglas en inglés) para crear un sistema capaz de realizar prácticamente cualquier tarea que ChatGPT pueda realizar, incluida la redacción de correos electrónicos y la sugerencia de código informático.

Pero PaLM + RLHF no está preentrenado. Es decir, el sistema no ha sido entrenado con los datos de ejemplo de la web necesarios para que realmente funcione. Descargar PaLM + RLHF no te proporcionará por arte de magia una experiencia similar a la de ChatGPT, ya que para ello sería necesario compilar gigabytes de texto a partir de los cuales el modelo pueda aprender y encontrar un hardware lo suficientemente potente como para soportar la carga de trabajo del entrenamiento.

Al igual que ChatGPT, PaLM + RLHF es esencialmente una herramienta estadística para predecir palabras. Cuando se le alimenta con un enorme número de ejemplos de datos de entrenamiento -por ejemplo, entradas de Reddit, artículos de noticias y libros electrónicos-, PaLM + RLHF aprende la probabilidad de que aparezcan palabras basándose en patrones como el contexto semántico del texto circundante.

ChatGPT y PaLM + RLHF comparten una salsa especial en el Aprendizaje por Refuerzo con Retroalimentación Humana, una técnica que pretende alinear mejor los modelos lingüísticos con lo que los usuarios desean que logren. RLHF consiste en entrenar un modelo lingüístico -en el caso de PaLM + RLHF, PaLM- y afinarlo en un conjunto de datos que incluye preguntas (por ejemplo, «Explica el aprendizaje automático a un niño de seis años») junto con lo que los voluntarios humanos esperan que diga el modelo (por ejemplo, «El aprendizaje automático es una forma de IA…»). A continuación, los voluntarios clasifican todas las respuestas de mejor a peor. Por último, las clasificaciones se utilizan para entrenar un «modelo de recompensa» que toma las respuestas del modelo original y las clasifica por orden de preferencia, filtrando las mejores respuestas a una pregunta determinada.

Recopilar los datos de entrenamiento es un proceso costoso. Y el entrenamiento en sí no es barato. PaLM tiene un tamaño de 540.000 millones de parámetros, entendiendo por «parámetros» las partes del modelo lingüístico aprendidas a partir de los datos de entrenamiento. Un estudio de 2020 cifraba en 1,6 millones de dólares los gastos de desarrollo de un modelo de generación de texto con sólo 1.500 millones de parámetros. Y para entrenar el modelo de código abierto Bloom, que tiene 176.000 millones de parámetros, se necesitaron tres meses utilizando 384 GPU Nvidia A100; una sola A100 cuesta miles de dólares.

Ejecutar un modelo entrenado del tamaño de PaLM + RLHF tampoco es trivial. Bloom requiere un PC dedicado con unas ocho GPU A100. Las alternativas en la nube son caras: según los cálculos aproximados, el coste de ejecutar el GPT-3 de generación de texto de OpenAI (que tiene unos 175.000 millones de parámetros) en una única instancia de Amazon Web Services es de unos 87.000 dólares al año.

¿ChatGPT te quitará el trabajo? ¿Qué empleos tienen mayor probabilidad de verse afectados?

Frederick, Brian. «Will ChatGPT Take Your Job?» Search Engine Journal, 16 de enero de 2023.

Ver completo

ChatGPT tiene todos los visos de ser un cambio tecnológico. Pero, ¿te quitará ChatGPT el trabajo? Se trata de un chatbot basado en el aprendizaje automático y en grandes cantidades de datos, que interactúa con los usuarios de una forma increíblemente realista.

ChatGPT de OpenAI hace mucho más que mantener conversaciones virtuales. Puede generar contenidos como poemas o trabajos, depurar código, responder consultas y mucho más. Se trata de un acontecimiento apasionante. Pero, a nivel personal, es más que preocupante, sobre todo por su impacto en la seguridad laboral.

Si la tecnología llega a un nivel en el que puede realizar tu trabajo tan bien o mejor que tú, ¿a qué te vas a dedicar? La mayoría de la gente ha pasado toda su carrera trabajando en un solo campo. ¿Se supone que todos van a ser carpinteros o masajistas? Y si es así, ¿no será intensa la competencia por esos puestos? ¿Cómo sobreviviremos?

La sola idea basta para provocar un ataque de pánico. Pero relájate. Respire en una bolsa de papel si es necesario. Las cosas no son tan desesperadas. Todo va a ir bien. Los aviones tienen un complejo sistema de piloto automático y, durante un vuelo, están controlados en su mayor parte por ordenadores, pero los pilotos están ahí sentados y para ajustar los controles del ordenador siempre que es necesario.

Sí, en una escala de tiempo lo suficientemente larga, la tecnología acabará asumiendo tu papel actual. Sin embargo, es poco probable que esto ocurra pronto. El aprendizaje automático y la inteligencia artificial aún están en pañales, y con suerte se habrá jubilado hace tiempo antes de que las máquinas vengan a quitarte el trabajo.

Y antes de que eso ocurra, el poder de herramientas como ChatGPT te permitirá desempeñar tu función con mucha mayor eficiencia y eficacia.

En este artículo, se da un vistazo a algunos de los puestos de trabajo que con mayor probabilidad se verán afectados por ChatGPT y se califica su seguridad en una escala del 1 al 10, en la que uno significa que no hay posibilidad de sustitución por máquinas y diez significa que hay que pulir el currículum, porque estás a punto de recibir tu carta de despido.

Profesionales de la optimización de motores de búsqueda. Teniendo en cuenta que esto es Search Engine Journal, nuestra primera área de preocupación es sobre el futuro de los trabajos de SEO. No hay duda de que ChatGPT y otros programas similares cambiarán la forma de trabajar de los profesionales del SEO. Pero esto es optimización de motores de búsqueda – el cambio es la única constante. Riesgo de sustitución: 2/10.

Programadores. Pero una de las características clave que siguen apareciendo en los debates sobre ChatGPT es su capacidad para escribir código. Imagínatelo: código que escribe código nuevo, sin olvidar nunca un decimal o un corchete de cierre. Riesgo de sustitución: 4/10.

Especialistas en pago por clic (PPC). En general, los especialistas en PPC no parecen tan preocupados por el impacto de ChatGPT y otras tecnologías de IA en su seguridad laboral. Si alguna vez has configurado una campaña PPC, habrás utilizado el poder de la inteligencia artificial, o al menos algo muy parecido. Las Reglas Automatizadas podrían ser vistas como un tipo rudimentario de IA, donde creas reglas para casos de uso común. Riesgo de sustitución: 2/10.

Escritores. Como ya se habrán imaginado, éste es un aspecto que preocupa especialmente. ¿Qué va a hacer la gente que depende de la creación de la palabra escrita, cuando ChatGPT y similares pueden inventar un titular mejor, más rápido y más eficaz en menos tiempo? Riesgo de sustitución: 2/10.

Profesionales de ventas. No hay duda de que los macrodatos y la IA pueden utilizarse para revolucionar el proceso de ventas. Desde una segmentación más precisa hasta la predicción de comportamientos, no cabe duda de que pueden utilizarse para que las ventas sean más fáciles y eficientes. Riesgo de sustitución: 1/10.

Educadores. Si las personas fueran máquinas frías e indiferentes, no habría mejor manera de educarlas que de memoria. Pero los seres humanos no son ordenadores y la educación es mucho más que transmitir conocimientos. Y ningún tipo de programación, ajuste de algoritmos y procesamiento de datos puede sustituir a intangibles humanos como la paciencia, la disciplina, la amabilidad y la preocupación genuina por el bienestar de los alumnos. Al igual que ocurre con las ventas, a pesar de los avances tecnológicos, parece inconcebible que ChatGPT u otra herramienta de inteligencia artificial pueda sustituir a los educadores humanos. Pero esto no quiere decir que no vaya a cambiar la forma de hacer las cosas. Desde la calificación hasta el seguimiento del progreso, pasando por el desarrollo de planes de aprendizaje personalizados o la mejora de la accesibilidad, hay muchas oportunidades para utilizar esta nueva y emocionante tecnología en este campo. Riesgo de sustitución: 1/10

Abogados. A primera vista, el Derecho parece un campo en el que la inteligencia artificial va a avanzar a pasos agigantados. Después de todo, ¿qué es el Derecho, aparte de un conjunto codificado de instrucciones? ¿Por qué no podría utilizarse ChatGPT para analizar documentos jurídicos, decisiones y precedentes, y luego aplicar ese conocimiento a casos del mundo real? Hay que tener en cuenta el factor humano. Uno de los principales argumentos contra las sentencias mínimas obligatorias en los juicios penales es que cada situación es única. Riesgo de sustitución: 1/10.

ChatGPT y otros programas que emplean el aprendizaje automático y el big data en busca de la inteligencia artificial pueden ser herramientas maravillosas. Son muy prometedoras para reducir o incluso eliminar muchas de las tareas cotidianas. Dicho esto, algunos sectores tienen más probabilidades de ser sustituidos por máquinas en los próximos años o décadas. Entre ellos se encuentran puestos como el de recepcionista, muchos trabajos de atención al cliente, trabajos de conductor, incluidos taxistas y camioneros, y soldados.

También existe la legítima preocupación de que herramientas de IA como ChatGPT puedan ser utilizadas por personas o empresas sin escrúpulos. Desde los estudiantes que hacen trampas en la universidad hasta los resúmenes científicos falsos, que las herramientas de IA causen daños depende mucho de cómo las utilicemos. Puede que algunas empresas sean más rápidas que otras a la hora de intentar reducir costes con la IA. Pero también es probable que haya resistencia por cuestiones de precisión, ética y política. Una cosa es segura: por cada puesto que sustituyan, lo pagarán de otras formas, creando nuevas oportunidades e industrias sobre la marcha.