**La FTC se prepara para endurecer su intervención en el uso malicioso de la inteligencia artificial**

La creciente preocupación por el uso malicioso de la inteligencia artificial (IA), particularmente en la creación de deepfakes sexualizados no consensuales y estafas de clonación de voz, ha llevado a la Comisión Federal de Comercio (FTC) de Estados Unidos a intensificar su papel regulador. Este fenómeno no solo afecta a las víctimas directas de estos delitos, sino que también plantea un desafío significativo para la protección de la privacidad y la seguridad en la era digital.

El año pasado, el Congreso estadounidense aprobó la *Take It Down Act*, una legislación que permite la persecución penal de individuos que compartan o distribuyan imágenes íntimas no consensuales y falsificaciones digitales, incluidas las generadas por inteligencia artificial. Este marco legal representa un avance crucial en la lucha contra el abuso digital y la explotación de la tecnología.

En una audiencia de supervisión en el Senado la semana pasada, el presidente de la FTC, Andrew Ferguson, calificó esta nueva ley como uno de los "mayores logros legislativos" del actual Congreso y de la administración del expresidente Donald Trump, y anunció que la FTC se estaba preparando para una "aplicación robusta" de la misma. Esta declaración subraya el compromiso de la agencia para abordar el uso indebido de la tecnología de IA de manera efectiva.

A principios de este mes, el Departamento de Justicia logró su primera condena exitosa bajo la nueva ley. James Strahler, un residente de Columbus, Ohio, de 37 años, se declaró culpable de utilizar deepfakes generados por IA en una campaña de acoso dirigida a al menos seis mujeres. Este caso resalta la urgencia de abordar el uso indebido de la IA en la creación de contenido dañino y la necesidad de protección para las víctimas de tales actos.

Una sección adicional de la *Take It Down Act*, que entrará en vigor en mayo, permitirá a los individuos presentar avisos de "retirada" a sitios web que publiquen o alojen deepfakes sexuales. Las empresas tendrán un plazo de 48 horas para eliminar dicho contenido o enfrentarse a investigaciones y acciones de la FTC. Este mecanismo introduce un nuevo nivel de responsabilidad para las plataformas digitales, que deberán actuar con rapidez para evitar sanciones.

El comisionado Mark Meador, durante una conferencia el 30 de marzo en Washington D.C., expresó su esperanza de que la FTC "nunca tenga que hacer cumplir esta ley", pero enfatizó que la aplicación de la *Take It Down Act* es una prioridad máxima. La posibilidad de un enfrentamiento con el sector tecnológico, especialmente con empresas como xAI, se presenta como un escenario probable. La herramienta Grok de xAI continúa siendo utilizada para crear y alojar imágenes deepfake no consensuales de personas reales, a pesar del escándalo que enfrentó a principios de este año.

En una conversación posterior a su discurso, CyberScoop preguntó a Meador cómo se podrían aplicar las disposiciones de retirada a la proliferación de nudificaciones masivas de usuarios por parte de Grok. Meador aclaró que la ley especifica que la comisión no puede tomar medidas contra una empresa hasta recibir quejas formales a partir de mayo. Este enfoque sugiere un período de observación en el que la FTC evaluará la respuesta de las empresas a las quejas y solicitudes que se presenten.

Strahler, quien aún no ha sido sentenciado, también admitió haber utilizado fotografías de niños en su vecindario para crear pornografía deepfake. Este hecho ha llevado a la FTC a incorporar la protección de los menores en su planificación estratégica, considerando que la seguridad infantil en línea es una "preocupación clave" que merece más herramientas y recursos para los consumidores. La comisión se ha comprometido a explorar otras maneras en las que puede proteger a los niños y apoyar a las familias, incluyendo su nueva autoridad bajo la *Take It Down Act*.

Casey Waughn, abogada especializada en privacidad y asociada senior en Armstrong Teasdale, comentó que el enfoque actual de la FTC en la seguridad en línea de los niños deja espacio para que la ley se utilice de manera creativa. Waughn señaló que la demora de un año en la aplicación de la disposición permitió a las plataformas prepararse, pero también sugirió que la FTC podría hacer más para señalar públicamente a las empresas lo que implica el cumplimiento legal, similar a cómo proporciona recursos en torno a leyes de privacidad importantes.

La FTC también se enfrenta al impacto de la IA en estafas criminales dirigidas a estadounidenses en línea. Ferguson informó a los legisladores que la IA "incrementa tanto la sofisticación de los mecanismos reales mediante los cuales se llevan a cabo las estafas, como hace más fácil para los estafadores elegir sus objetivos". Sin embargo, las facultades de la FTC son limitadas, ya que la Comisión Federal de Comunicaciones (FCC) regula a los proveedores de telefonía e internet que transmiten la mayoría de las estafas. Ferguson también destacó que muchos de los centros de llamadas que llevan a cabo estas estafas están ubicados en el extranjero, donde la posibilidad de una ejecución civil por parte de la FTC no es un riesgo que los detenga.

En la conferencia de marzo, Meador mencionó que la desinformación impulsada por la IA es un tema que la comisión considera "diariamente" y que está disminuyendo la barrera de entrada para muchos esquemas criminales. El año pasado, el FBI informó que las estafas de clonación de voz que impersonan a familiares en apuros habían estafado a los estadounidenses de casi 900 millones de dólares, y la tecnología se ha utilizado para suplantar a funcionarios de alto nivel de la administración Trump en conversaciones con empresas y líderes políticos.

La senadora Maggie Hassan escribió a cuatro empresas de clonación de voz de IA —ElevenLabs, LOVO, Speechify y VEED— preguntando qué políticas y programas tenían en marcha para prevenir o disuadir el fraude habilitado por sus herramientas. Sin embargo, Meador señaló que, en lo que respecta a las afirmaciones engañosas, es particularmente difícil definir la credulidad en el uso de la IA. Muchas deepfakes, dijo, son vistas y consumidas por muchas personas en línea con la misma "suspensión de incredulidad" que aportan a los efectos generados por computadora en las películas.

Por lo tanto, es probable que la FTC deba adjudicar cada caso de manera individual, en lugar de aplicar medidas de amplio espectro. "Creo que veremos mucho de esto en el contexto de la IA, donde si sabes que algo no estaba destinado a ser real o auténtico, eso no es una preocupación", concluyó. "La pregunta es entonces, ¿cuáles son esas situaciones donde existe una expectativa de que se te está mostrando algo auténtico y, entre comillas, 'real', en contraposición a ser generado por IA y si hubo una representación engañosa u omisión material que divulgar?"

El compromiso de la FTC para abordar estos desafíos emergentes y proteger a los ciudadanos en la era digital será fundamental para establecer un marco regulatorio efectivo que frene el uso malicioso de la inteligencia artificial.