Un grupo de empleados y ex trabajadores de empresas de inteligencia artificial, incluidas las respaldadas por Microsoft, OpenAI y Alphabet, Google DeepMind externaron su preocupación por los riesgos que plantea la tecnología emergente.
Una carta abierta de un grupo de 11 empleados actuales y anteriores de OpenAI y un empleado actual y otro anterior de Google DeepMind menciona que los motivos financieros de las empresas de IA obstaculizan una supervisión efectiva.
«No creemos que las estructuras personalizadas de gobierno corporativo sean suficientes para cambiar esto», agrega la carta.
Advierte además sobre los riesgos de la IA no regulada, que van desde la difusión de información errónea hasta la pérdida de sistemas de IA independientes y la profundización de las desigualdades existentes, lo que podría resultar en la «extinción humana».
Los investigadores han encontrado ejemplos de generadores de imágenes de empresas como OpenAI y Microsoft que producen fotografías con desinformación relacionada con la votación, a pesar de las políticas contra dicho contenido.
Las empresas de IA tienen «obligaciones débiles» de compartir información con los gobiernos sobre las capacidades y limitaciones de sus sistemas, decía la carta, y agrega que no se puede confiar en que estas empresas compartan esa información voluntariamente.
La carta abierta es la última en plantear preocupaciones de seguridad en torno a la tecnología de IA generativa, que puede producir de forma rápida y económica textos, imágenes y audio similares a los humanos.
El grupo ha instado a las empresas de IA a facilitar un proceso para que los empleados actuales y anteriores planteen inquietudes relacionadas con riesgos y no hagan cumplir acuerdos de confidencialidad que prohíban las críticas.
Por otra parte, la firma dirigida por Sam Altman dijo el jueves que desbarató cinco operaciones encubiertas de influencia que buscaban utilizar sus modelos de inteligencia artificial para «actividades engañosas» en Internet.
