El mundo digital suele emular la vida de formas únicas y fascinantes. Google, en su ambicioso proyecto por cartografiar y compartir nuestro mundo físico en el ámbito digital, añadió una función innovadora (y controvertida) a Google Earth a través de una herramienta bautizada con el caprichoso nombre de ‘Nano Banana 2’. Esta herramienta permitía a los usuarios manipular imágenes de satélite mediante comandos de texto sin formato, lo que les daba la posibilidad de recrear una versión digitalizada de nuestro mundo real de la forma que mejor les pareciera. Un usuario podía escribir “añadir un bosque aquí” y, al poco tiempo, aparecía un bosque frondoso y verde, recién surgido de la imaginación del usuario.
Sin embargo, la aparente accesibilidad y creatividad que ofrecía Nano Banana 2 fue objeto de un mayor escrutinio cuando saltaron a la luz casos de uso de deepfakes generados por IA. Un ejemplo muy revelador de ello fue cuando Henk van Ess, periodista de ‘Digital Digging’, utilizó la herramienta para crear visualizaciones gráficas de acontecimientos de relevancia mundial, como la llegada inesperada de refugiados cerca de la frontera mexicana o la aparición de un cráter provocado por una bomba junto a un hospital en Gaza. Mediante indicaciones de texto y la IA, logró generar imágenes creíbles de estas escenas, difuminando la línea entre lo que es real y lo que no lo es.
En respuesta a esto, Google destacó que estas imágenes habían sido generadas efectivamente por Nano Banana 2 y no eran representaciones reales de escenas reales. Para garantizar esta distinción, se ha incorporado una marca de agua digital en estas imágenes y la empresa también ha adoptado medidas preventivas contra la creación de imágenes relacionadas con temas perjudiciales.
La vertiginosa digitalización impulsada por herramientas como Nano Banana 2 abre, sin duda, las puertas a la creatividad y la exploración, pero también pone de manifiesto de forma contundente el posible uso indebido de estas herramientas. Poco después de su lanzamiento el jueves, y tras el revuelo suscitado por el uso indebido de la herramienta, Google decidió cerrar Nano Banana 2, impidiendo así a los usuarios editar imágenes de satélite.
El comunicado que Google publicó un día después sobre el cierre dejó a los usuarios con sentimientos encontrados. Por un lado, la posibilidad de que se hiciera un uso indebido de la herramienta y de que se crearan «deepfakes» era una preocupación cada vez mayor, pero, por otro lado, herramientas innovadoras como estas amplían los límites de la exploración digital y la interacción con nuestro mundo físico.
Curiosamente, a medida que el mundo se adentra cada vez más en el ámbito digital, las implicaciones de herramientas como Nano Banana 2 ponen de manifiesto el amplio abanico de posibilidades y la importancia crucial de las consideraciones éticas que se esconden en esta frontera digital.
Desde la reinterpretación de Pompeya hasta el polémico episodio de los deepfakes, el rápido auge y caída de Nano Banana 2 nos sirve como un claro recordatorio de las complejas cuestiones que rodean el desarrollo y la implantación de nuevas tecnologías capaces de influir significativamente en nuestra percepción del mundo, tanto en el ámbito físico como en el digital.
Para un análisis más detallado de esta situación, echa un vistazo a el artículo original en The Verge.
