Google, Microsoft, OpenAI y Meta se encuentran entre las siete compañías tecnológicas que han asumido una serie de compromisos voluntarios para mejorar la seguridad de la inteligencia artificial. El acuerdo, impulsado por la Casa Blanca, busca establecer algunas medidas comunes ante el rápido desarrollo de esta tecnología.
Junto a estas cuatro empresas también participan Amazon, Anthropic e Inflection. Los compromisos se centran en tres ámbitos principales: seguridad, protección y confianza en los sistemas de inteligencia artificial.
Pruebas de seguridad antes de lanzar nuevos sistemas de IA
Las compañías se comprometen a realizar pruebas internas y externas antes de lanzar determinados sistemas de IA. También compartirán información sobre posibles riesgos, vulnerabilidades y formas de mejorar su seguridad.
Otro de los puntos acordados es reforzar la protección de los modelos frente a accesos no autorizados. Además, las empresas fomentarán que terceros puedan detectar y comunicar vulnerabilidades.
Identificar el contenido generado por inteligencia artificial
El acuerdo también contempla el desarrollo de mecanismos que permitan reconocer contenidos creados mediante IA. Entre las opciones se encuentran las marcas de agua y otros sistemas que ayuden a conocer el origen de imágenes o audios generados artificialmente.
Las empresas también se comprometen a informar sobre las capacidades y limitaciones de sus sistemas, así como sobre posibles usos indebidos y riesgos asociados.
Se trata de compromisos voluntarios, por lo que no sustituyen a una regulación específica. Aun así, suponen un primer acuerdo entre algunas de las principales compañías del sector para establecer medidas comunes en el desarrollo de la inteligencia artificial.
Fuente original: Genbeta.