El CEO de Google, Sundar Pichai, comunicó las prioridades de la empresa para 2024, y en primer lugar se encuentra el desarrollo responsable de la IA. Sin embargo, recientes cambios dentro del equipo interno de ética de la IA de Google, conocido como Responsible Innovation team (RESIN), han generado preocupaciones entre los empleados sobre la capacidad de la empresa para cumplir sus objetivos declarados.

Según fuentes anónimas, RESIN ha experimentado cambios significativos, empezando por la repentina salida de su líder y fundadora, Jen Gennai, quien ocupaba el cargo de directora de innovación responsable. El perfil de LinkedIn de Gennai sugiere que pronto dejará Google, siguiendo patrones anteriores de salidas de la empresa. Google dividió el equipo de aproximadamente 30 personas de Gennai en dos grupos, algunos permanecieron en su lugar y otros fueron transferidos a la división de confianza y seguridad. Aunque no se han reportado despidos, no está claro el motivo detrás de estos cambios ni cómo se distribuirán las responsabilidades. Las fuentes indican que no se les ha informado sobre cómo se manejarán las futuras revisiones de los principios de la IA, lo que genera incertidumbre sobre el destino de este crucial proceso de evaluación dentro de Google.

Cuando se les preguntó sobre los cambios, el portavoz de Google, Brian Gabriel, hizo hincapié en el compromiso de la empresa con el desarrollo responsable de la IA y describió la reestructuración como una oportunidad para fortalecer y expandir sus esfuerzos de innovación responsable. Sin embargo, Gabriel no proporcionó detalles sobre cómo se manejará el trabajo de RESIN en el futuro. RESIN, aunque solo uno de los muchos equipos encargados de la IA en Google, desempeñaba un papel prominente como el principal vigilante interno de la ética de la IA. Sus responsabilidades incluían revisar los proyectos internos para garantizar el cumplimiento de los principios de la IA de Google, que establecen reglas para el desarrollo y uso de la tecnología.

El año pasado, RESIN llevó a cabo más de 500 revisiones, incluida una evaluación del chatbot Bard. La importancia del equipo se destaca aún más con la partida de su líder, Jen Gennai, y uno de sus miembros influyentes, Sara Tangdall, quien ahora ocupa el cargo de directora de productos de IA responsable en Salesforce. Google estableció el equipo de innovación responsable en 2018 después de las protestas públicas contra la participación de la empresa en el proyecto Maven del Pentágono, que utilizaba algoritmos de Google para el análisis de vigilancia con drones.

Las principales responsabilidades de RESIN eran supervisar un conjunto de principios de la IA que se introdujeron después de las protestas. Estos principios definieron el compromiso de Google de aprovechar la IA en beneficio de las personas y afirmaron explícitamente que la IA nunca debe utilizarse para armas o para socavar los derechos humanos. Gennai contribuyó activamente al desarrollo de estos principios. RESIN ofrecía una plataforma para que los equipos de Google enviaran proyectos para su revisión, brindando retroalimentación y bloqueando ideas que violaban los principios de la IA. Notablemente, el equipo impidió el lanzamiento de generadores de imágenes de IA y algoritmos de síntesis de voz que podrían facilitar la creación de deepfakes. Aunque buscar la orientación de RESIN para el cumplimiento de los principios de la IA no era obligatorio para todos los equipos, Gennai enfatizó el valor de las revisiones tempranas para prevenir violaciones éticas.

El compromiso de Google con el desarrollo responsable de la IA sigue siendo una prioridad, como afirmó el CEO Sundar Pichai. Sin embargo, los cambios recientes dentro del equipo de RESIN, incluida la partida de su líder y el proceso de reestructuración, plantean preguntas sobre la capacidad de la empresa para alcanzar sus objetivos. Mientras Google enfatiza que las modificaciones fortalecerán sus esfuerzos de innovación responsable, los empleados y los observadores de la industria vigilarán de cerca cómo se manejan las revisiones éticas de la IA en el futuro. El éxito último de los esfuerzos de IA de Google dependerá de su capacidad para desarrollar y desplegar la inteligencia artificial de manera responsable, en beneficio de las personas y en cumplimiento de los principios éticos establecidos.

AI

Artículos que te pueden gustar

Aumento de Tarifas en YouTube TV: Descontento y Reacción de los Suscriptores
La Ley de Seguridad en Línea: Un Cambio Sostenible en la Regulación Digital en el Reino Unido
El Renacer de las Consolas Retro: PS Placeable y la Cultura del Modding
Threads: La Nueva Alternativa a Twitter que Está Revolucionando las Redes Sociales

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *