Preocupaciones sobre la desinformación en las elecciones de Estados Unidos del 2024

Las preocupaciones sobre la desinformación podrían estar creciendo en relación con el uso de la IA en las elecciones de Estados Unidos del 2024, pero eso no impide que las startups de clonación de voz de IA entren en el juego político. Por ejemplo, Instreamatic, con sede en Boca Raton, Florida, una plataforma de anuncios de audio/video basada en IA que recaudó una ronda de financiación de Serie A de $6.1 millones en 2021, dice que está expandiendo sus capacidades al salvaje mundo de la publicidad política. La solución permite a las campañas de los candidatos generar rápidamente anuncios de video y audio altamente enfocados basados en IA contextual que se adaptan a eventos o ubicaciones cambiantes. Por ejemplo, Instreamatic compartió una demostración de campaña de video en la cual un candidato, en este caso, Barack Obama, puede alterar cualquier anuncio político de audio o video replicando una voz sin tener que ir a un estudio para volver a grabar. Instreamatic ha ofrecido su producto de voz AI generativa a las marcas y agencias desde marzo pasado. Ha destacado el hecho de que a partir de un solo anuncio completado, las locuciones con Inteligencia Artificial pueden crear automáticamente versiones ilimitadas del anuncio que podrían incluir la ubicación del público, la hora del día, la aplicación o plataforma donde reciben el anuncio, o la tienda más cercana. Sin embargo, se espera que el uso de la IA en las campañas electorales de Estados Unidos del 2024 se convierta en un campo minado de desinformación y ya está levantando banderas rojas. Un informe reciente de ABC News, por ejemplo, destacó los esfuerzos de la campaña del gobernador de Florida, Ron DeSantis, durante el verano, los cuales incluyeron imágenes y audio generados por IA de Donald Trump. Y VentureBeat recientemente entrevistó a Nathan Lambert, un investigador de aprendizaje automático en el Instituto Allen de IA, quien dijo que ya sea a través de chatbots o deepfakes, la IA generativa convertirá las elecciones de Estados Unidos del 2024 en un «gran lío». Stas Tushinskiy, CEO y cofundador de Instreamatic, insiste en que la empresa cuenta con salvaguardas para asegurarse de que su producto no se utilice para la desinformación electoral. «Para cualquier tipo de campaña, el cliente debe confirmar que tiene permiso para usar la voz,» le dijo a VentureBeat. Además, mencionó que la oferta de publicidad política no estará disponible para todos. «No puedes simplemente registrarte,» explicó. «Nos involucraremos en la creación de la campaña». Tushinksyi dijo que Instreamatic no quiere «verse atrapado en medio de algo para lo cual no estaba destinada la plataforma», y añadió que si hubiera problemas con los anuncios políticos, «se eliminarían inmediatamente» y, si es necesario, «haremos una declaración de seguridad pública». Tushinsky enfatizó que Instreamatic no está reinventando el mundo de la publicidad política para ayudar a los candidatos a ser elegidos. Describió la oferta de la empresa como la automatización de un tedioso proceso manual que ya existe. «Este proceso implica que alguien, como un candidato o un talento vocal, vaya a un estudio y pase horas y horas allí, luego alguien más los sube y alguien más verifica los errores humanos», dijo. «Es un proceso extenso y costoso, y nosotros lo hemos automatizado,» comprimiendo el proceso de seis a ocho semanas en pocos minutos. Además, una campaña publicitaria también requiere una gran cantidad de intercambio de información entre la agencia y el cliente, explica, en el cual pueden cambiar las palabras, requiriendo nuevas tomas. Pero la clonación de voz permite, por ejemplo, que una compañía aérea mencione una variedad de destinos de viaje en anuncios dirigidos, o que las marcas de automóviles mencionen ubicaciones de concesionarios locales. «Los anuncios contextuales siempre tienen un mejor rendimiento que los anuncios genéricos, por lo que tiene mucho sentido en términos de aumentar la efectividad de tu inversión publicitaria,» dijo. Los expertos sostienen que el panorama de los anuncios políticos está lleno de peligros potenciales generados por IA. Por ejemplo, actualmente no existen reglas federales para el uso de contenido generado por IA, como los anuncios, en campañas políticas.