El mundo de las imágenes generadas por inteligencia artificial es una espada de doble filo. Si bien permite la creatividad e innovación, también abre la puerta a usos más oscuros y maliciosos.
Reuven Cohen, un consultor con sede en Toronto, utiliza imágenes generadas por IA para empujar los límites y captar la atención de las personas. Sin embargo, también es consciente del potencial de estas tecnologías para ser utilizadas de manera dañina. La falta de barandillas en los modelos de código abierto hace que sea fácil para cualquier persona abusar de estas tecnologías.
Empresas como Microsoft han tenido que añadir nuevos controles a sus generadores de imágenes para evitar la propagación de contenido perjudicial. A pesar de los esfuerzos de la comunidad para disuadir usos explotativos, el ‘todo vale’ del código abierto es difícil de regular.
La tecnología de generación de imágenes de código abierto se ha convertido en la base de deepfake pornografía y otras formas de contenido no consensual. Herramientas construidas sobre algoritmos de código abierto pueden ser fácilmente reutilizadas para usos salaces o acosadores.
El lado oscuro de la tecnología de generación de imágenes de código abierto es un recordatorio contundente de los riesgos asociados con la innovación de la IA. A medida que la tecnología continúa evolucionando, es crucial que las partes interesadas aborden estos desafíos y trabajen hacia un entorno en línea más seguro.
Deja una respuesta