Archivo de la etiqueta: Privacidad

OpenAI adelanta su plan de negocio para ChatGPT y lanza nuevos controles de privacidad

Sam Altman, the OpenAI CEO, and an illustration of GPT-4.

Wiggers, K. (2023, abril 25). OpenAI previews business plan for ChatGPT, launches new privacy controls. TechCrunch. https://techcrunch.com/2023/04/25/openai-previews-business-plan-for-chatgpt-launches-new-privacy-controls/

OpenAI anuncia que tiene previsto introducir un nuevo nivel de suscripción para ChatGPT, su chatbot viral basado en IA, adaptado a las necesidades de los clientes empresariales.

El modelo «ChatGPT Business», se describe como una oferta «para profesionales que necesitan más control sobre sus datos, así como para empresas que buscan gestionar sus usuarios finales».

Ante el riesgo que supone introducir datos privados de empresa para analizar con GPT, Open AI anuncio un nuevo modelo de suscripción ChatGPT Business, que limitará las políticas de uso de datos, lo que significa que los datos de los usuarios finales no se utilizarán para la fase de entrenamiento del sistema de forma predeterminada, por lo que no serán públicos, aunque se introduzcan en la aplicación, ChatGPT Business esté disponible en los próximos meses.

OpenAI ya había anunciado que estaba explorando planes de pago adicionales para ChatGPT a medida que el servicio crece rápidamente. (El primer nivel de suscripción, ChatGPT Plus, se lanzó en febrero y tiene un precio de 20 dólares al mes). Según una fuente, se calcula que ChatGPT alcanzó los 100 millones de usuarios activos mensuales en enero, sólo dos meses después de su lanzamiento, lo que la convierte en la aplicación de consumo de más rápido crecimiento de la historia.

En busca de nuevas líneas de ingresos, OpenAI lanzó en marzo plug-ins para ChatGPT, que ampliaban la funcionalidad del chatbot dándole acceso a fuentes de conocimiento y bases de datos de terceros, incluida la web.

A pesar de la controversia y de varias prohibiciones, ChatGPT ha demostrado ser un triunfo publicitario para OpenAI, atrayendo la atención de los medios de comunicación y generando innumerables memes en las redes sociales. Pero es un servicio caro. Según el cofundador y consejero delegado de OpenAI, Sam Altman, los gastos operativos de ChatGPT son «exorbitantes», ya que ascienden a unos pocos céntimos por chat en costes totales de computación.

Además de ChatGPT Business, OpenAI ha anunciado hoy una nueva función que permite a todos los usuarios de ChatGPT desactivar el historial de chat. Las conversaciones iniciadas cuando el historial de chat está desactivado no se utilizarán para entrenar y mejorar los modelos de OpenAI y no aparecerán en la barra lateral del historial, afirma OpenAI. Pero se conservarán durante 30 días y se revisarán «cuando sea necesario para vigilar posibles abusos».

A partir de hoy, los datos de ChatGPT también pueden exportarse. Los usuarios pueden solicitar que sus datos se envíen en un archivo a la dirección de correo electrónico asociada a su cuenta de OpenAI.

Las nuevas funciones llegan mientras crece el escrutinio regulador sobre las prácticas de OpenAI en materia de datos. Italia prohibió el mes pasado ChatGPT por posibles violaciones de la privacidad, alegando que OpenAI procesaba ilegalmente los datos de las personas y no implementaba un sistema para evitar que los menores accedieran a ChatGPT. Francia, España y Alemania también han empezado a investigar a OpenAI y sus servicios comerciales, centrándose en el cumplimiento del GDPR por parte de ChatGPT.

El peligro de compartir datos confideciales con ChatGPT

ChatGPT’s other risk: Oversharing confidential data. (2023, abril 20). GCN. https://gcn.com/emerging-tech/2023/04/chatgpts-other-risk-oversharing-confidential-data/385453/

No es necesariamente lo que sale de ChatGPT lo que preocupa a los investigadores de seguridad, sino lo que entra. El 6,5% de los empleados ha pegado datos de su organización en ChatGPT, y el 3,1% ha copiado y pegado datos confidenciales en el programa, según un estudio reciente.

Después de haber sido entrenado en un gran número de fuentes digitales de texto extraídas de Internet, ChatGPT de OpenAI puede producir ensayos, presentaciones, artículos y código informático cuando se le presenta una pregunta cuidadosamente elaborada. Busca las respuestas más relevantes en su base de conocimientos y reúne esa información en formatos o guiones de programación adaptados a las personas. Incluso con instrucciones específicas, algunas de sus respuestas contienen información poco fiable, incorrecta, obsoleta o incluso sin sentido. Aun así, sus muchos fans dicen que puede producir un borrador o un guión de código bastante bueno para que un humano lo evalúe y lo siga según convenga.

Pero los riesgos no se limitan a lo que publica el programa, sino también a lo que introducen los usuarios. A veces, los usuarios envían datos a ChatGPT como parte de una conversación para ayudarles a refinar sus consultas, quizá pidiendo una versión depurada de las notas de la reunión o del código. Esa información cargada se utiliza para mejorar los modelos de IA del programa y es esencialmente pública. Los datos sensibles que se introducen no se limitan sólo a ChatGPT, sino que también pueden compartirse con «otros servicios al consumidor», según los términos de las políticas de uso de datos de OpenAI.

En las preguntas frecuentes del sitio se informa a los usuarios de que no se pueden eliminar determinadas indicaciones de sus historiales de conversación, advirtiéndoles: «Por favor, no compartas información sensible en tus conversaciones». Pero no todo el mundo ha prestado atención.

A principios de abril, dos programadores diferentes de la empresa coreana de semiconductores Samsung enviaron a ChatGPT código informático confidencial con errores, pidiendo a la IA que encontrara los problemas y los solucionara. Cuando un tercer empleado envió a ChatGPT notas de reuniones en las que pedía un resumen, los responsables de la empresa se dieron cuenta del riesgo de exponer información confidencial y limitaron a 1.024 bytes el mensaje de ChatGPT de cada empleado.

Hasta un 6,5% de los empleados ha pegado datos de la empresa en ChatGPT, y un 3,1% ha copiado y pegado datos confidenciales en el programa, según una investigación de la empresa de seguridad de datos Cyberhaven, que analizó el uso de ChatGPT entre 1,6 millones de trabajadores que utilizan su producto.

Italia bloquea temporalmente ChatGPT por problemas de privacidad

Italy temporarily blocks ChatGPT over privacy concerns. AP News, 2023

Ver noticia

Italia bloqueará temporalmente el software de inteligencia artificial ChatGPT a raíz de una filtración de datos mientras investiga una posible violación de las estrictas normas de protección de datos de la Unión Europea, dijo el viernes el organismo de control de privacidad del gobierno.

La Autoridad de Protección de Datos de Italia dijo que estaba tomando medidas provisionales «hasta que ChatGPT respete la privacidad», incluida la limitación temporal de que la empresa procese los datos de los usuarios italianos.

OpenAI, con sede en EE. UU., que desarrolló el chatbot, dijo el viernes por la noche que deshabilitó ChatGPT para los usuarios italianos a petición del gobierno. La compañía dijo que cree que sus prácticas cumplen con las leyes de privacidad europeas y espera que ChatGPT vuelva a estar disponible pronto.

Los estadounidenses no entienden lo que las empresas pueden hacer con sus datos personales, y eso es un problema

Turow, Joseph et al. Americans Can’t Consent to Companies’ Use of Their Data. A Report from the Annenberg School for Communication, University of Pennsylvania, 2023

Texto completo

Una nueva encuesta realizada a 2.000 estadounidenses revela que la gente no entiende lo que los profesionales del marketing averiguan sobre ellos en Internet y no quiere que se recopilen sus datos, pero se siente impotente para impedirlo. El 77% de los encuestados respondió correctamente a 9 o menos preguntas, lo que supone un suspenso en una clase normal. Sólo una persona de las 2.000 de la muestra habría obtenido un sobresaliente en el examen.

En un nuevo informe, «Americans Can’t Consent to Companies’ Use of Their Data» (Los estadounidenses no pueden impedir que las empresas utilicen sus datos), los investigadores pidieron a un grupo representativo a nivel nacional de más de 2.000 estadounidenses que respondieran a una serie de preguntas sobre las políticas de marketing digital y el modo en que las empresas pueden y deben utilizar sus datos personales. Su objetivo era determinar si las actuales prácticas de «consentimiento informado» funcionan en Internet.

Descubrieron que la gran mayoría de los estadounidenses no entienden los fundamentos de las prácticas y políticas de marketing en Internet, y que muchos se sienten incapaces de dar su consentimiento a la forma en que las empresas utilizan sus datos. En consecuencia, según los investigadores, los estadounidenses no pueden dar realmente su consentimiento informado a la recopilación de datos digitales.

La encuesta reveló que el 56% de los adultos estadounidenses no entienden el término «política de privacidad», creyendo a menudo que significa que una empresa no compartirá sus datos con terceros sin permiso. En realidad, muchas de estas políticas establecen que una empresa puede compartir o vender cualquier dato que recopile sobre los visitantes de un sitio con otros sitios web o empresas.

El 77% de los encuestados respondió correctamente a 9 o menos preguntas, lo que supone un suspenso en una clase normal. Sólo una persona de las 2.000 de la muestra habría obtenido un sobresaliente en el examen. No obstante, la encuesta proporcionó muchos datos sobre los conocimientos digitales de los estadounidenses, o la falta de ellos:

  • Sólo 1 de cada 3 estadounidenses sabe que es legal que una tienda en línea cobre precios diferentes a los usuarios en función de su ubicación.
  • Más de 8 de cada 10 estadounidenses creen, erróneamente, que la Ley de Portabilidad y Responsabilidad del Seguro Médico (HIPAA) impide a las aplicaciones vender los datos recogidos sobre la salud de sus usuarios.
  • Menos de uno de cada tres estadounidenses sabe que los sitios web de comparación de precios de viajes, como Expedia u Orbitz, no están obligados a mostrar los precios más bajos de las aerolíneas.
  • Menos de la mitad de los estadounidenses saben que la configuración de privacidad de Facebook permite a los usuarios limitar parte de la información que comparten con los anunciantes.

Acceso a la información y privacidad

«Mapping the evolving interface of access to information and privacy: issue brief» UNESCO Digital Library, 2022. Accedido 3 de febrero de 2023.

Texto completo

El acceso a la información forma parte integrante de la realización de los derechos humanos. Sin embargo, al igual que otros derechos humanos, el derecho de acceso a la información (DAI) no está exento de límites. Se pueden imponer límites legales, justificadamente necesarios y proporcionados al derecho del público a acceder a la información. Uno de esos límites se da cuando es necesario garantizar el respeto y la protección del derecho a la intimidad de las personas.

Los derechos a la información y a la privacidad se entrecruzan es cada vez más evidente e importante, en gran parte debido al crecimiento de Internet y las tecnologías digitales, especialmente en relación con la recopilación y el uso de datos personales. La evolución del panorama de la comunicación y el acceso a la información significa que las herramientas y plataformas digitales y en línea siguen dominando la forma en que se crea y comparte la información. Ello conlleva el reto de proteger la privacidad al tiempo que se maximiza el acceso a la información.

Manifiesto de los medios de comunicación de servicio público y de Internet de servicio público

Fuchs, Christian, y Klaus Unterberger. The Public Service Media and Public Service Internet Manifesto. University of Westminster Press. University of Westminster Press, 2021.

Texto completo

PDF

ePuB

Mobi

Este libro presenta el Manifiesto de los Medios de Comunicación de Servicio Público y de Internet de Servicio Público de autoría colectiva y los materiales que lo acompañan. Internet y el panorama de los medios de comunicación están rotos. Las plataformas comerciales de Internet dominantes ponen en peligro la democracia. Han creado un paisaje comunicativo abrumado por la vigilancia, la publicidad, las noticias falsas, el discurso del odio, las teorías de la conspiración y la política algorítmica. Las plataformas comerciales de Internet han perjudicado a los ciudadanos, a los usuarios, a la vida cotidiana y a la sociedad. La democracia y la democracia digital requieren medios de comunicación de servicio público. Una Internet que mejore la democracia requiere que los medios de comunicación de servicio público se conviertan en plataformas de Internet de servicio público: una Internet del público, por el público y para el público; una Internet que avance en lugar de amenazar la democracia y la esfera pública. La Internet de servicio público se basa en plataformas de Internet operadas por diversos medios de comunicación de servicio público, llevando la misión de servicio público a la era digital. La Internet de servicio público ofrece oportunidades para el debate público, la participación y el avance de la cohesión social.

El Manifiesto va acompañado de los materiales que han servido de base para su creación: El informe de Christian Fuchs sobre los resultados de la Encuesta sobre Medios de Comunicación/Internet de Servicio Público, la versión escrita de la charla en línea de Graham Murdock sobre los medios de comunicación de servicio público en la actualidad, y un resumen de un debate en ecomitee.com sobre los fundamentos del Manifiesto.

El Manifiesto puede firmarse en http://bit.ly/signPSManifesto

La libertad de Internet en el mundo disminuye por duodécimo año consecutivo; Freedom House publica el informe «Freedom on the Net 2022»

Global Internet Freedom Declines For 12th Consecutive Year; Freedom House Releases “Freedom on the Net 2022” Report. Freedom House, 2022

Texto completo

La libertad de Internet en el mundo ha disminuido por duodécimo año consecutivo, ya que más gobiernos han erigido barreras digitales diseñadas para censurar la disidencia y vigilar a los usuarios, según un informe publicado hoy por Freedom House. El estudio revela que más de tres cuartas partes de los usuarios de Internet del mundo viven ahora en países donde las autoridades castigan a las personas por ejercer su derecho a la libertad de expresión en línea. El mayor descenso de la libertad de Internet se produjo en Rusia, ya que el Kremlin intensificó sus esfuerzos para reprimir a la oposición nacional y amordazar a los medios de comunicación independientes tras su invasión ilegal y no provocada de Ucrania.

Conclusiones del informe:

  • La libertad de Internet en el mundo disminuyó por duodécimo año consecutivo. Los descensos más pronunciados en la escala de 100 puntos del informe se documentaron en Rusia (-7), Myanmar (-5), Sudán (-4) y Libia (-4). Tras la desastrosa invasión de Ucrania por parte del ejército ruso, el Kremlin intensificó drásticamente sus esfuerzos por reprimir la disidencia interna y aceleró el cierre o el exilio de los medios de comunicación independientes que quedaban en el país. En al menos 53 países, los usuarios se enfrentan a repercusiones legales por expresarse en línea, lo que a menudo conlleva penas de prisión draconianas.
  • Los gobiernos están dividiendo la Internet global para crear espacios en línea más controlables. Un número récord de gobiernos nacionales bloquearon sitios web con contenido político, social o religioso no violento, socavando el derecho a la libre expresión y al acceso a la información. La mayoría de estos bloqueos se dirigieron a fuentes de información que se encontraban fuera del país. Las nuevas leyes nacionales supusieron una amenaza adicional para la libre circulación de la información al centralizar la infraestructura técnica y aplicar una normativa defectuosa a las plataformas de medios sociales y a la gestión de los datos de los usuarios.
  • Los usuarios de China son los que tienen menos libertad en Internet por octavo año consecutivo. La censura se intensificó durante los Juegos Olímpicos de Pekín 2022 y después de que la estrella del tenis Peng Shuai acusara a un alto funcionario del Partido Comunista Chino (PCC) de agresión sexual. El gobierno siguió reforzando su control sobre el floreciente sector tecnológico del país, incluso mediante nuevas normas que exigen a las plataformas que utilicen sus sistemas de algoritmos para promover la ideología del PCCh.
  • Un récord de 26 países experimentó mejoras en la libertad de Internet. Dos de las mayores mejoras se produjeron en Gambia (+3) y Zimbabue (+3). A pesar del declive global, las organizaciones de la sociedad civil de muchos países han liderado esfuerzos de colaboración para mejorar la legislación, desarrollar la resiliencia de los medios de comunicación y garantizar la responsabilidad de las empresas tecnológicas. Las exitosas acciones colectivas contra los cierres de Internet ofrecieron un modelo para seguir avanzando en otros problemas como los programas espía comerciales.
  • La libertad de Internet en Estados Unidos mejoró marginalmente por primera vez en seis años. Se denunciaron menos casos de vigilancia selectiva y acoso en línea durante las protestas en comparación con el año anterior, y el país ocupa ahora el noveno lugar a nivel mundial, empatado con Australia y Francia. Estados Unidos aún carece de una ley federal de privacidad completa, y los responsables políticos apenas avanzaron en la aprobación de otras leyes relacionadas con la libertad en Internet. En vísperas de las elecciones intermedias de noviembre de 2022, el entorno en línea estuvo plagado de desinformación política, teorías de la conspiración y acoso a los trabajadores y funcionarios electorales.
  • Los derechos humanos penden de un hilo en medio de una competición por el control de la red. Los Estados autoritarios compiten por propagar su modelo de control digital en todo el mundo. En respuesta, una coalición de gobiernos democráticos ha aumentado la promoción de los derechos humanos en línea en los foros multilaterales, esbozando su visión de una Internet libre y abierta. Sin embargo, sus avances siguen viéndose obstaculizados por las problemáticas prácticas de libertad en Internet en sus propios países.

Tendencias de las tecnologías emergentes de la informática : centradas en el ámbito judicial

 Rodriguez Bautista, D., Banu, S., Deudon, E., Trends in IT emerging technologies : focused on the judicial field, Court of Justice of the European Union, 2022

Texto completo

Las tecnologías emergentes (innovadoras) transforman sustancialmente la vida de las personas y tienen un profundo impacto en el tejido de la sociedad y el funcionamiento de sus instituciones. Su uso puede generar importantes beneficios en diversos ámbitos, como la sanidad, el transporte, la educación y la administración pública, generando prometedoras oportunidades para la humanidad a escala. Por lo tanto, competir en la escena global con otros actores que están avanzados en el uso de tecnologías innovadoras es fundamental hoy en día. En el caso del sector jurídico, algunos Estados miembros de la UE ya tienen implementadas algunas herramientas judiciales emergentes basadas en la tecnología y/o tienen una estrategia política pública para desarrollar estas tecnologías, incluida la inteligencia artificial en la administración de justicia.

Además, la crisis de la COVID-19 ha provocado un aumento del debate en torno al aumento del uso de estas tecnologías para la digitalización de las administraciones, la creación de tribunales virtuales y el potencial de los algoritmos que podrían utilizarse en la resolución de litigios en línea (ODR). Esencialmente, la tecnología innovadora en los sistemas de justicia puede mejorar la eficiencia administrativa en los tribunales y ayudar en los procesos de toma de decisiones a los abogados, jueces y litigantes. Sin embargo, su integración en el sistema judicial requerirá una comprensión del papel de la tecnología innovadora en los diferentes sistemas judiciales y abordar los retos legales y éticos críticos que surgen a este respecto.

Cuidado con los datos: proteger la privacidad y la seguridad de los alumnos

Minding the data: protecting learners’ privacy and security. Unesco, 2022

Texto completo

La pandemia de COVID-19 aceleró enormemente el uso de las tecnologías digitales en la educación. Pero más allá de la respuesta de emergencia, existe una tendencia internacional a explorar cómo la inteligencia artificial y la analítica basada en datos pueden apoyar el aprendizaje, las evaluaciones del aprendizaje y los procesos de planificación de políticas basados en pruebas.

El uso de datos en la educación es un arma de doble filo. Por un lado, ofrecen un enorme potencial para crear valor mejorando las políticas y los programas, impulsando una gobernanza transparente y una mejor gestión de los sistemas educativos, la capacitación de los profesores, las experiencias de aprendizaje personalizadas, la evaluación y la certificación. Por otro lado, la acumulación de datos puede conducir a una concentración de poder económico y político, lo que aumenta la posibilidad de que los datos se utilicen de forma indebida en detrimento de los alumnos.

Esta publicación sostiene que es necesario encontrar un equilibrio entre el uso de la tecnología para avanzar en la transformación educativa y la salvaguarda de la privacidad y los derechos individuales. Se necesitan normas y protocolos adecuados para proteger a los estudiantes y a los profesores, no sólo en las políticas nacionales, sino también a nivel internacional, donde también se requiere la cooperación y los esfuerzos de colaboración para apoyar el aprendizaje de políticas, el intercambio de conocimientos y el entendimiento mutuo.

La UNESCO lanza a través de esta publicación un llamamiento a la comunidad educativa no sólo para que preste cuidadosa atención a la privacidad de los datos en la educación, sino para que tome la iniciativa en estos desarrollos.

Compromisos para la privacidad y ética digital

Compromisos para la privacidad y ética digital. Madrid: Fundación COTEC, 2022

Texto completo

El documento pretende servir de base a las organizaciones para transformar las políticas en torno la gestión de la privacidad y el uso ético de los datos. Esto incluye el avance de nuevas tecnologías, tal como son la Inteligencia Artificial, lnternet of Things o Big Data. La adhesión, según recoge el documento, “se interpretará por parte de las entidades participantes como una demostración de compromiso y preocupación por la gestión de la privacidad desde la perspectiva de la gestión ética de los datos, que permita además fomentar la confianza de la sociedad en el tratamiento de los datos y la promoción de su uso responsable”.

El origen de estos compromisos parte de un Grupo de Trabajo de Cotec con el objetivo de analizar y proponer un modelo de privacidad y ética digital que incluya buenas prácticas en la gestión de los datos privados. En su desarrollo se estudiaron tendencias, oportunidades, retos y responsabilidades ante el desafío que supone el tratamiento de la privacidad que han quedado recogidos en este documento.