Archivo de la categoría: Tecnologías de la información

‘ChatGPT Detector’ detecta documentos generados por IA con una precisión sin precedentes

Prillaman, McKenzie. «‘ChatGPT Detector’ Catches AI-Generated Papers with Unprecedented Accuracy». Nature, 6 de noviembre de 2023. https://doi.org/10.1038/d41586-023-03479-4.

Los grandes modelos lingüísticos como ChatGPT pueden generar textos que parecen auténticos a la velocidad del rayo, si bien, la gran mayoría de editores de revistas rechazan los modelos lingüísticos como autores de manuscritos. Por tanto, se necesita inmediatamente un medio para distinguir con precisión el texto generado por humanos del generado por inteligencia artificial (IA).

Según un estudio publicado el 6 de noviembre en Cell Reports Physical Science, una herramienta de aprendizaje automático puede identificar fácilmente cuándo los documentos de química están escritos utilizando el chatbot ChatGPT. El clasificador especializado, que superó a dos detectores de inteligencia artificial (IA) existentes, podría ayudar a las editoriales académicas a identificar documentos creados por generadores de texto de IA.

Se trata de un detector preciso de texto de IA para revistas científicas probando su capacidad en una serie de situaciones complejas, incluido el texto humano de una amplia variedad de revistas de química, el texto de IA del modelo de lenguaje más avanzado disponible públicamente (GPT-4) y, lo que es más importante, el texto de IA generado mediante mensajes diseñados para ocultar el uso de IA. En todos los casos, los textos humanos y de IA se asignaron con gran precisión. El texto generado por ChatGPT puede detectarse fácilmente en las revistas de química; este avance es un requisito previo fundamental para entender cómo afectará la generación automatizada de texto a las publicaciones científicas de ahora en adelante.

«La mayoría de la comunidad de análisis de texto busca un detector realmente general que funcione en cualquier cosa», dice la coautora Heather Desaire, una química de la Universidad de Kansas en Lawrence. Pero al crear una herramienta que se centra en un tipo específico de documento, «realmente estábamos buscando la precisión».

Los hallazgos sugieren que los esfuerzos para desarrollar detectores de IA podrían mejorar al adaptar el software a tipos específicos de escritura, dice Desaire. «Si puedes construir algo rápidamente y fácilmente, entonces no es tan difícil construir algo para diferentes dominios».

Elon Musk presenta a Grok, su chatbot de inteligencia artificial, afirmando que supera a ChatGPT

https://x.ai/

Elon Musk ha presentado a Grok, un chatbot de inteligencia artificial con un «espíritu rebelde» inspirado en «Guía del autoestopista galáctico». El CEO de Tesla, quien advirtió la semana pasada que la IA era «una de las mayores amenazas para la humanidad», anunció que este competidor de ChatGPT estará disponible para sus suscriptores premium en su plataforma X después de las pruebas.

Musk también reveló que Grok tenía acceso a las publicaciones de usuarios en X, una plataforma que él posee, y tiene un gusto por las respuestas sarcásticas.

Musk publicó un aparente ejemplo del tono juguetón de Grok con una captura de pantalla de una consulta al chatbot pidiéndole una «guía paso a paso» para fabricar cocaína. Los cuatro pasos indicados en la respuesta incluyen «obtener un título en química» y «establecer un laboratorio clandestino en una ubicación remota». Sin embargo, el chatbot agrega al final: «¡Solo bromeo! Por favor, no intentes fabricar cocaína en realidad. Es ilegal, peligroso y no es algo que yo animaría».

Musk dijo que Grok, que se encuentra en pruebas iniciales y no está disponible para el público en general, finalmente se lanzará para suscriptores del servicio de suscripción de nivel superior de X, llamado Premium+.

Grok es un verbo acuñado por el escritor de ciencia ficción estadounidense Robert A. Heinlein y, según el diccionario Collins, significa «entender completamente e intuitivamente». Grok ha sido desarrollado por la nueva empresa de IA de Musk, xAI. El equipo de xAI explicó la influencia de «Guía del autoestopista galáctico», la comedia de ciencia ficción de culto del autor británico Douglas Adams, en un blog el sábado.

«Grok es un IA modelado, por lo que está diseñado para responder a casi cualquier cosa e incluso sugerir qué preguntas hacer. Grok está diseñado para responder preguntas con un toque de ingenio y tiene un espíritu rebelde, así que, ¡por favor, no lo uses si odias el humor!»

El equipo de xAI dijo que Grok está impulsado por un modelo de lenguaje amplio (LLM), la tecnología fundamental detrás de los chatbots de IA, llamado Grok-1. El blog mencionó que Grok-1 superó a GPT-3.5, el modelo utilizado en la versión gratuita de ChatGPT, en algunas pruebas, como la resolución de problemas de matemáticas de la escuela intermedia. Sin embargo, xAI dijo que quedaba rezagado con respecto al modelo más poderoso de ChatGPT, GPT-4.

El equipo de xAI dijo que Grok se está poniendo a disposición de un número limitado de usuarios en los Estados Unidos como prototipo, y que «nuevas capacidades y características» se implementarán en los próximos meses. Según el sitio web de Grok, el acceso inicial al chatbot se ofrece a los suscriptores de X como parte de un «programa de acceso anticipado».

Musk cofundó OpenAI, la empresa detrás de ChatGPT, pero se retiró de la empresa en 2018, argumentando que «no estaba de acuerdo con algunas de las cosas que el equipo de OpenAI quería hacer», además de citar compromisos en sus otras empresas. Musk ha expresado temores sobre el ritmo de desarrollo en empresas como OpenAI y en marzo apoyó un llamado a una pausa de seis meses en el desarrollo de sistemas poderosos.

Sin embargo, en julio Musk dijo que una pausa ya no parecía realista y anunció la creación de xAI, que, según él, construiría sistemas de IA «de manera adecuada».

Hablando en la cumbre de seguridad de la IA en Bletchley Park la semana pasada, Musk dijo que la IA era una amenaza para la humanidad, lo que refleja los temores de algunos expertos y ejecutivos de tecnología de que podrían surgir sistemas que evaden el control humano y tomen decisiones que pongan en peligro a la humanidad.

«Quiero decir, por primera vez, tenemos una situación en la que hay algo que va a ser mucho más inteligente que el ser humano más inteligente», dijo Musk.

Luego, el jueves, Musk predijo que la IA, el término para sistemas informáticos que pueden realizar tareas normalmente asociadas con seres inteligentes, reemplazaría todos los trabajos humanos. Hablando con el primer ministro, Rishi Sunak, dijo: «Llegará un punto en el que no se necesitará ningún trabajo».

Fuente: Milmo, Dan, y Dan Milmo Global technology editor. «Elon Musk Unveils Grok, an AI Chatbot with a ‘Rebellious Streak’». The Guardian, 5 de noviembre de 2023, sec. Technology. https://www.theguardian.com/technology/2023/nov/05/elon-musk-unveils-grok-an-ai-chatbot-with-a-rebellious-streak.

La British Library sufre un importante ataque informático que está afectando a varios de sus servicios.

Muncaster, Phil. «British Library Still Reeling After Major Cyber Incident». Infosecurity Magazine, 1 de noviembre de 2023. https://www.infosecurity-magazine.com/news/british-library-still-reeling/.

La British Library está experimentando una interrupción tecnológica importante debido a un incidente cibernético que ocurrió durante el fin de semana. Esta interrupción afecta su sitio web, sistemas y servicios en línea, así como algunos servicios en el lugar, incluyendo Wi-Fi público. Las líneas telefónicas y servicios en el lugar en su edificio principal en Londres y otra instalación en Yorkshire también se ven afectados.

Aunque las salas de lectura estarán abiertas para el estudio personal, el acceso a los elementos de la colección es muy limitado, y no se puede acceder a las colecciones digitales o al catálogo digital. La inscripción de lectores también está fuera de servicio. La exposición Fantasy y los espacios públicos permanecerán abiertos como de costumbre, y los eventos públicos se llevarán a cabo según lo planeado, pero solo se aceptará pago en efectivo en el lugar.

Solo estarán disponibles los elementos de la colección solicitados antes del 26 de octubre, y la orden de elementos de la colección de forma manual será muy limitada a través de los catálogos impresos de la biblioteca para elementos almacenados en su base de St Pancras.

Aunque no se ha confirmado la causa del incidente, el ransomware (secuestro de servidores) es una posibilidad dada la gran interrupción. No se ha mencionado si se ha robado información personal de empleados o consumidores. Según los anuncios oficiales de la biblioteca en la red social X, el incidente comenzó el 28 de octubre.

La Biblioteca Nacional del Reino Unido es una de las más grandes del mundo y se estima que contiene hasta 200 millones de elementos en 400 millas de estanterías. Esto incluye la Carta Magna, letras manuscritas de los Beatles y la colección más grande del mundo de obras de Geoffrey Chaucer, que recientemente se puso a disposición en formato digital después de un proyecto de dos años y medio.

Una biblioteca instala un medidor que avisa a los usuarios cuando hacen demasiado ruido

Estos dispositivos suelen ser conocidos como «medidores de ruido» o «dispositivos de control de ruido» y se utilizan para monitorear el nivel de ruido en el entorno de la biblioteca.

Cuando los visitantes hacen demasiado ruido y superan un cierto umbral de decibelios preestablecido, el medidor de ruido puede activar una alarma o una señal de advertencia, como una luz parpadeante o un sonido. Cuando el medidor está en color verde existe un nivel de ruido óptimo, si se pone en color naranja hay cierto nivel de ruido, y en rojo «demasiado ruido». Esto tiene el propósito de recordar a los visitantes que deben mantener un tono de voz bajo y respetar el ambiente silencioso de la biblioteca. La señal de advertencia de ruido puede ser útil cuando es necesario recordar a la gente que mantenga bajos sus niveles de ruido. Es mejor recibir un recordatorio de una señal que de otra persona, ya que elimina la percepción humana del ruido (puede que el que se queja sea un poco hipersensible a veces).

La instalación de estos medidores de ruido ayuda a mantener un ambiente de estudio tranquilo y agradable para los usuarios de la biblioteca, evitando interrupciones innecesarias y fomentando el respeto hacia los demás usuarios. También es una forma efectiva de hacer cumplir las políticas de silencio o de nivel de ruido bajo en el lugar, lo que contribuye a mejorar la experiencia de todos los visitantes de la biblioteca.

Aquí hay algunas características y funciones comunes de un medidor de ruido:

  1. Medición de decibeles: Los medidores de ruido miden el nivel de presión sonora en decibeles (dB), que es una unidad de medida que representa la intensidad del sonido.
  2. Pantalla digital: La mayoría de los medidores de ruido tienen una pantalla digital que muestra el nivel de ruido en tiempo real.
  3. Umbral de advertencia: Algunos medidores de ruido pueden configurarse con un umbral de advertencia o límite de ruido. Cuando el nivel de ruido supera este umbral, el dispositivo puede activar una alarma o una señal de advertencia.
  4. Registro de datos: Muchos medidores de ruido tienen la capacidad de registrar datos de medición a lo largo del tiempo. Esto permite realizar un seguimiento de cómo varían los niveles de ruido a lo largo del día o en diferentes momentos.
  5. Calibración: Los medidores de ruido deben calibrarse regularmente para garantizar mediciones precisas.
  6. Utilidades en aplicaciones: Los medidores de ruido son utilizados en una amplia gama de aplicaciones, como en entornos industriales para evaluar el ruido en fábricas, en estudios de grabación para controlar la calidad del sonido, en la evaluación de ruido ambiental para medir la contaminación acústica y en la implementación de políticas de control de ruido en lugares como bibliotecas, hospitales o espacios públicos.

Los editores de revistas publican unas orientaciones sobre el uso de la IA en la publicación científica

Kaebnick, Gregory E., David Christopher Magnus, Audiey Kao, Mohammad Hosseini, David Resnik, Veljko Dubljević, Christy Rentmeester, Bert Gordijn, y Mark J. Cherry. «Editors’ Statement on the Responsible Use of Generative AI Technologies in Scholarly Journal Publishing». Hastings Center Report n/a, n.o n/a. Accedido 2 de noviembre de 2023. https://doi.org/10.1002/hast.1507.

Los editores de siete revistas académicas publicaron recomendaciones sobre el uso responsable de herramientas de inteligencia artificial generativa por parte de autores, revisores y editores. Las recomendaciones prohíben que las herramientas de IA generativa sean consideradas como autores, pero permiten su uso para generar texto e ilustraciones.

«Estas restricciones son necesarias en parte para proteger la calidad académica, como han señalado otras declaraciones, pero también son vitales por razones sociales más amplias», afirmó Gregory E. Kaebnick, autor principal de las recomendaciones y editor del Informe del Hastings Center.

Estas herramientas «tienen el potencial de transformar la publicación académica de maneras que pueden ser perjudiciales pero también valiosas», dice la declaración, que fue publicada en varias de las revistas de bioética y humanidades editadas por los autores y firmantes. Entre los firmantes se encuentran Karen J. Maschke, editora de la revista Ética e Investigación Humana del Hastings Center, y Laura Haupt, editora jefe del Informe del Hastings Center y Ética e Investigación Humana. Seis editores adicionales también son firmantes.

Las cinco recomendaciones son las siguientes:

  1. Las LLMs [modelos de lenguaje grandes] u otras herramientas de IA generativa no deben figurar como autores en los artículos.
  2. Los autores deben ser transparentes sobre su uso de la IA generativa, y los editores deben tener acceso a herramientas y estrategias para garantizar la transparencia de los autores.
  3. Los editores y revisores no deben depender únicamente de la IA generativa para revisar los artículos enviados.
  4. Los editores tienen la responsabilidad final de seleccionar revisores y deben ejercer una supervisión activa de esa tarea.
  5. La responsabilidad final de la edición de un artículo recae en los autores y editores humanos.

Si bien estas recomendaciones son coherentes con las tomadas por el Comité de Ética en Publicación y muchos editores de revistas, difieren en algunos aspectos. Por un lado, abordan las responsabilidades de los revisores hacia los autores. Además, la nueva declaración toma una posición diferente a la de la revista Science, que sostiene que no solo una herramienta de IA generativa no puede ser considerada autora, sino que «el texto generado por ChatGPT (u otras herramientas de IA) no puede ser utilizado en el trabajo, ni pueden los gráficos, imágenes o ilustraciones ser producto de tales herramientas».

«Una prohibición así es demasiado amplia y puede ser imposible de hacer cumplir, en nuestra opinión», afirma la nueva declaración.

Las recomendaciones son preliminares. «No pretendemos haber resuelto las numerosas cuestiones sociales que creemos que la IA generativa plantea para la publicación académica, pero en aras de fomentar una conversación más amplia sobre estas cuestiones, hemos desarrollado un conjunto preliminar de recomendaciones sobre la IA generativa en la publicación académica», señala la declaración. «Esperamos que las recomendaciones y argumentos aquí establecidos ayuden a la comunidad académica a avanzar hacia una comprensión más profunda de las fortalezas, limitaciones y desafíos de la IA para el trabajo académico responsable».

Consideraciones reglamentarias sobre inteligencia artificial para la salud

Regulatory considerations on artificial intelligence for health. World Health Organization, 2023

Texto completo

En un esfuerzo por gestionar de forma responsable el rápido auge de las tecnologías sanitarias de IA, la OMS ha esbozado seis áreas de regulación de la IA para la salud, incluida la importancia de la transparencia y la documentación, la gestión de riesgos, la validación de datos, el uso previsto, la calidad de los datos, la privacidad y la protección de datos, y el fomento de la colaboración.

ChatGPT elabora la guía Enseñar con IA

Teaching with AI

https://openai.com/blog/teaching-with-ai

Open AI empresa creadora de ChatGPT ha publicado una guía para profesores que utilicen ChatGPT en sus clases, que incluye sugerencias, una explicación del funcionamiento de ChatGPT y sus limitaciones, la eficacia de los detectores de IA y los prejuicios.

La herramienta, proporciona recursos adicionales de las principales organizaciones educativas sobre cómo enseñar con y sobre IA, y respuestas a las preguntas más frecuentes de los educadores sobre temas como el funcionamiento de ChatGPT, sus limitaciones, la eficacia de los detectores de IA y los prejuicios.

Cómo utilizan los profesores ChatGPT

  1. Interpretación de conversaciones difíciles
    La Dra. Helen Crompton, catedrática de Tecnología Educativa en la Universidad Old Dominion, anima a sus estudiantes de postgrado en educación a utilizar ChatGPT como un sustituto de una persona concreta, como un compañero de debate que les señalará los puntos débiles de sus argumentos, un reclutador que les está entrevistando para un trabajo o un nuevo jefe que podría darles su opinión de una manera específica. Dice que explorar la información en un contexto de conversación ayuda a los estudiantes a comprender el material con más matices y desde una nueva perspectiva.

2. Crear cuestionarios, exámenes y planes de clase a partir de materiales curriculares
Fran Bellas, profesor de la Universidade da Coruña (España), recomienda a los profesores que utilicen ChatGPT como asistente para elaborar cuestionarios, exámenes y planes de clase. Bellas dice que primero hay que compartir el plan de estudios con ChatGPT y luego pedirle ideas nuevas para los cuestionarios y las lecciones que utilicen ejemplos modernos o culturalmente relevantes. Bellas también recurre a ChatGPT para ayudar a los profesores a asegurarse de que las preguntas que ellos mismos escriben son inclusivas y accesibles para el nivel de aprendizaje de los alumnos. «Si vas a ChatGPT y le pides que cree exámenes de 5 preguntas sobre circuitos eléctricos, los resultados son muy novedosos. Puedes coger esas ideas y hacerlas tuyas».

3. Reducir la dificultad para los no angloparlantes
El Dr. Anthony Kaziboni, Jefe de Investigación de la Universidad de Johannesburgo, da clase a estudiantes que en su mayoría no hablan inglés fuera del aula. Kaziboni cree que el dominio del inglés es una enorme ventaja en el mundo académico, y que los malentendidos, incluso de pequeños detalles de la gramática inglesa, pueden frenar el reconocimiento y las oportunidades de los estudiantes. Anima a sus alumnos a utilizar ChatGPT como ayuda para traducir, mejorar su redacción en inglés y practicar la conversación.

4. Enseñar a los alumnos el pensamiento crítico
Geetha Venugopal, profesora de informática de secundaria en la American International School de Chennai (India), compara la enseñanza de las herramientas de IA con el uso responsable de Internet. En su clase, aconseja a los alumnos que recuerden que las respuestas que da ChatGPT pueden no ser creíbles y exactas todo el tiempo, y que piensen críticamente si deben confiar en la respuesta, y luego confirmen la información a través de otros recursos primarios. El objetivo es ayudarles a «comprender la importancia de trabajar constantemente sus habilidades originales de pensamiento crítico, resolución de problemas y creatividad».

La (nueva) biblioteca de Babel

Valenzuela Navarrete, G. (2013). La (nueva) biblioteca de Babel. Entretextos, 5(15), 1–7. https://doi.org/10.59057/iberoleon.20075316.201315475

Ha llegado el momento en el que nos resulta difícil concebir la vida sin computadoras e Internet; sin embargo, a menudo se desconoce el origen de un invento que se ha hecho tan omnipresente en nuestros días. En este artículo, se hace primero un repaso de cómo surgieron los primeros intentos por compactar la información en microchips hasta llegar a los actuales lectores electrónicos, tipo Kindle o Papyre. En segundo lugar, se hace referencia breve a la manera en la que Internet y las tecnologías relacionadas están transformando la literatura. Además, se propone al final una nueva manera de considerar los elementos básicos del ejercicio literario, lector, autor y editor.

El Impacto de la Inteligencia Artificial Generativa en las Bibliotecas: salvaguardando la excelencia, abrazando la innovación

The Impact of Generative AI on Libraries. Clarivate, 2023

Texto completo

Existen preocupaciones y desafíos válidos en torno a la IA generativa, lo que ha llevado a un creciente debate sobre la regulación. Sin embargo, las bibliotecas académicas no pueden pasar por alto su potencial beneficio significativo. Con el objetivo de ofrecer un servicio óptimo a los usuarios, las bibliotecas están explorando cómo sus proveedores y suministradores de confianza pueden utilizar la IA generativa para ayudarles a lograr este objetivo.

Con avances en «descubrimiento conversacional», podemos permitir que las bibliotecas ofrezcan contenido y recomendaciones personalizados y autorizados a sus usuarios sin comprometer los valores fundamentales.

Descarga este informe técnico gratuito y aprenda:

  • Cómo mejorar el descubrimiento y los servicios de usuario enfatizando la transparencia, la acreditación adecuada y los derechos de propiedad intelectual.
  • Cómo mejorar los resultados de aprendizaje en un entorno de aprendizaje más inclusivo y holístico.
  • Cómo simplificar los flujos de trabajo de la biblioteca y potenciar las soluciones bibliotecarias.
  • Cómo mantenerse a la vanguardia de la transformación digital aprovechando los beneficios de la IA generativa en las bibliotecas académicas.

¿Podemos asegurarnos de que los sistemas de detección de la IA generativa sean precisos y justos?:

Statement on Principles for the Development and Use of Systems to Detect Generative AI Content. ACM, oct. 2023

Texto completo

Con el interés público centrado en tecnologías de IA generativa en constante aumento, algunos de los problemas más apremiantes giran en torno a preguntas como «¿Se está utilizando la IA generativa para crear imágenes y videos falsos?» y «¿Los estudiantes están utilizando la IA generativa para escribir trabajos y hacer trampa en los exámenes?» Por estas razones, hay una creciente demanda de sistemas que puedan detectar si una imagen, archivo de audio o trabajo escrito ha sido creado por un humano o un sistema de IA.

A pesar de que los sistemas de detección de IA están comenzando a proliferar, no existen estándares de la industria ni regulaciones gubernamentales que garanticen que estos sistemas sean precisos o justos. Debido a que el impacto de estos sistemas en las personas puede ser significativo, el Association for Computing Machinery’s US Technology Policy Committee (ACM USTPC) ha emitido una Declaración de Principios para el Desarrollo y Uso de Sistemas de Detección de Contenido de IA Generativa.

La introducción a la nueva Declaración de USTPC destaca diversos escenarios en los que sería deseable contar con sistemas para detectar contenido generado por IA. Por ejemplo, los empleadores que desean saber si se utilizó IA generativa para completar una solicitud de trabajo o las empresas de medios que intentan determinar si los comentarios publicados en plataformas fueron dejados por humanos o chatbots.

Al mismo tiempo, la Declaración señala que «la demanda de tales sistemas no es un indicador de su equidad o precisión». El comité continúa explicando que «ninguna tecnología de detección actualmente disponible es lo suficientemente confiable como para basar exclusivamente decisiones críticas, potencialmente alteradoras de la vida y la carrera…»

La declaración proporciona un contexto técnico sobre por qué no se puede garantizar la equidad y precisión de los sistemas de detección de IA generativa existentes y establece seis principios y recomendaciones específicos:

  1. Bajo riesgo de rechazos incorrectos y proceso de apelación impulsado por humanos: El uso de sistemas para detectar imágenes generadas por IA y otros medios que automáticamente marcan las presentaciones para su rechazo solo debe ser aceptable si estos sistemas de detección tienen un riesgo extremadamente bajo de rechazos incorrectos y si se proporciona un proceso de apelación impulsado por humanos.
  2. Presentaciones de alto riesgo: Generalmente no es apropiado rechazar automáticamente presentaciones de texto en circunstancias de alto riesgo que se clasifican como producidas por un sistema de IA generativa, incluso si se proporciona un proceso para apelar dichos rechazos. Ejemplos de presentaciones de alto riesgo incluyen (pero no se limitan a) tareas en el aula y solicitudes de admisión a una institución educativa, crédito o empleo.
  3. Códigos de conducta: Las entidades que utilizan sistemas de detección de IA generativa deben adoptar directrices, como códigos de conducta, manuales del empleado y códigos de honor ejecutables, que requieran que aquellos afiliados a la entidad cumplan con las políticas de IA de la organización.
  4. Impugnación de resultados: De acuerdo con declaraciones anteriores de USTPC, las personas deben tener la oportunidad de impugnar resultados siempre que se tome una decisión adversa sobre ellas, en su totalidad o en parte, basada en la salida de un sistema de IA.
  5. Formación adecuada: Los evaluadores de contenido humano deben recibir una formación adecuada de manera continua sobre los métodos y herramientas adecuados para validar el contenido presentado.
  6. Aumento de la financiación: Sería prudente y beneficioso aumentar la financiación del sector público y privado para la investigación sobre cómo desarrollar mecanismos de detección mejores, realizar análisis de impacto, realizar investigaciones de usuario y otros asuntos relacionados.

En palabras de Simson Garfinkel, autor principal de la declaración y presidente del Subcomité de Gobierno Digital de USTPC: «En principio, detectar texto e imágenes generados por la IA es un problema abierto. Aunque podría ser posible construir un sistema que pueda detectar el contenido generado por la IA de hoy, tal detector podría utilizarse para construir el sistema de generación de IA del mañana que evite dicha detección. Esta declaración se emite para agregar una voz de experiencia técnica al pánico moral sobre el uso de la IA generativa. Estamos diciendo que el texto e imágenes producidos por sistemas de IA generativa no pueden detectarse de manera confiable hoy. También alentamos a todas las instituciones a abstenerse de desplegar sistemas que pretendan detectar y descartar automáticamente materiales porque supuestamente fueron creados por un sistema de IA generativa».

Larry Medsker, presidente del Comité de Política Tecnológica de ACM de los Estados Unidos, agregó: «Esta nueva Declaración es parte de una serie continua que el Comité de Tecnología de ACM de los Estados Unidos publica para informar al público sobre las nuevas tecnologías y sus impactos en la sociedad. Recientemente, hemos estado especialmente activos en brindar aportes oportunos para abordar los nuevos desarrollos en IA». En esta línea, los miembros de USTPC han publicado “Principles for the Development, Deployment and Use of Generative AI” y “Statement on Principles for Responsible Algorithmic Systems.”

Además del autor principal Simson Garfinkel, los principales contribuyentes a la “Statement on Principles for the Development and Use of Systems to Detect Generative AI Content” incluyen a los miembros del comité Houssam Abbas, Andrew Appel, Harish Arunachalam, Ricardo Baeza-Yates, David Bauman, Ravi Jain, Carl Landwehr, Larry Medsker, Neeti Pokhriyal, Arnon Rosenthal y Marc Rotenberg.