En respuesta al creciente uso de herramientas de inteligencia artificial (IA) generativa y la dificultad de distinguir entre contenido real y manipulado, Google Fotos anunció una actualización que permitirá a los usuarios identificar imágenes editadas.
A partir de la primera semana de noviembre, la aplicación indicará cuando una imagen haya sido modificada con herramientas avanzadas como Magic Editor, Magic Eraser y Zoom Enhance, incluyendo en los metadatos una advertencia visible al lado del archivo, la ubicación y el estado de la copia de seguridad.
Esta iniciativa sigue la línea de recomendaciones de expertos y organismos que instan a las empresas tecnológicas a garantizar la transparencia en el contenido generado o alterado con IA.
En la práctica, significa que los usuarios podrán ver una sección “Información de IA” dentro de los detalles de cada imagen en Google Fotos, en versiones tanto móviles como web, así lo informó John Fisher, director de ingeniería de la plataforma.
Con el auge de la IA generativa, herramientas como DALL-E y los generadores de video emergentes como Sora y Veo están redefiniendo los límites de lo que percibimos como realidad, generando desafíos significativos en la autenticidad del contenido digital.
Google, ha ampliado su enfoque para incluir no solo la identificación de ediciones con IA generativa, sino también el uso de técnicas de edición que combinan elementos de diferentes fotos, como su reciente función “Add Me”, que permite crear tomas grupales agregando al fotógrafo en la escena.