Microsoft ha actualizado su Código de Conducta de Azure OpenAI Service, restringiendo el acceso a herramientas de IA generativa para los departamentos de policía de EE. UU. Esto incluye análisis de texto, voz y reconocimiento facial.
El objetivo principal de esta medida es evitar que la policía utilice tecnologías de IA en cámaras móviles para identificar personas en entornos no controlados.
La prohibición abarca varios modelos de IA, como GPT-3, GPT-4 y GPT-4 Turbo, así como modelos Vision, Codex, DALL-E 2, DALL-E 3 y Whisper. Estas restricciones impiden el uso de estas herramientas para identificar individuos en bases de datos de sospechosos o llevar a cabo vigilancia constante mediante datos biométricos o personales.
Además, Microsoft también prohíbe el uso de Azure OpenAI para la identificación o verificación de identidades individuales mediante rostros, incluso si involucra a la policía estatal o local de EE. UU. Asimismo, el análisis facial para determinar emociones, género o edad también está prohibido.
Estas medidas se dan poco después de que Axon anunciara un dispositivo que utiliza GPT-4 de OpenAI para resumir el audio de cámaras corporales. Sin embargo, hay críticas debido a posibles riesgos como sesgos raciales y «alucinaciones» derivadas de los datos de entrenamiento.
Aunque no está claro si Axon utiliza GPT-4 a través del servicio Azure OpenAI, Microsoft parece haber tomado estas medidas como respuesta al producto de Axon. Previamente, OpenAI ya había restringido el uso de sus modelos de IA para reconocimiento facial mediante sus API.
