Advierten sobre el uso de inteligencia artificial para generar deepfakes y ciberestafas

El Observatorio de Cibercrimen y Evidencia Digital en Investigaciones Criminales de la Universidad Austral advierte sobre el avance de los deepfakes. Se trata de contenido multimedia sintético generado por Inteligencia Artificial que se encuentra disponible a través de aplicaciones como FaceApp o Deep Face Lab, entre otras

Tecno Chaco On Line Chaco On Line
deepfake-800x479
Deepfake sobre la imagen de Barack Obanma (uente: gulfbusiness.com)

La tecnología deepfake puede producir un video o audio falso de una persona, que se percibe como verdadero, expresando algo que en realidad nunca dijo. Estas falsificaciones generan, sistemáticamente, amenazas de fraudes en línea, cuyas víctimas suelen ser las corporaciones empresariales.

 

 

En el marco de la presentación del libro “Ciberfraudes: Criptoactivos y Blockchain” que forma parte de una colección de materiales sobre el tema a cargo de la fiscal Daniela Dupuy, directora de OCEDIC, se profundiza acerca de esta modalidad que impacta a nivel internacional, debido a la transnacionalidad de la comisión de estas conductas delictivas, cuyos autores pueden operar desde cualquier parte del mundo.

 

 

“Los resultados de un estudio reciente mostraron que la amenaza más significativa de la IA ofensiva es su capacidad para mejorar algunos de los ataques de ingeniería social, como por ejemplo utilizar deepfakes para clonar la voz de directores ejecutivos o la imagen de ciudadanos respetables”, explica Dupuy

 

 

Un informe de la fundación Carnegie para la Paz Internacional sobre la amenaza que suponen las deepfakes resalta su posible intervención en diferentes formas de fraudes de identidad, permitiendo a los atacantes mejorar su capacidad para engañar a los humanos añadiendo un plus de autenticidad.

 

 

El uso de chatbots de IA, como ChatGPT, también puede fomentar las actividades fraudulentas, pudiendo ayudar a los posibles estafadores a superar errores de lenguaje que se suelen encontrar en mensajes de phishing (ejemplo de ello es una petición y respuesta de ChatGPT en cualquier idioma). Es decir que estos modelos de lenguaje de gran tamaño pueden crear mensajes de todo tipo, con una excelente gramática, haciéndolos pasar como verdaderos y disminuyendo la posibilidad de identificar a los sospechosos.

 

 

A modo de ejemplo, caben mencionar casos como el del gerente de una empresa que transfiere 25 millones de dólares a varias cuentas controladas por los estafadores, creyendo que la voz de su interlocutor, que le pedía que efectuara las transferencias, pertenecía a su jefe. O, el caso del estafador que mantiene chats de videos con la empleada de una empresa, indicándole el paso a paso de una transferencia millonaria a una compañía en Japón, pero aquellas conversaciones son en realidad manipuladas utilizando clips de videos de acceso público del verdadero jefe de la víctima.

 

 

En cuanto a la prevención de las estafas en línea que usan imágenes, videos y audios generados por IA, se ha detectado que los mecanismos para identificarlos suelen ir por detrás de las herramientas que las produce.

 

 

“Desde OCEDIC trabajamos desde la amplificación y la prevención buscando formar e informar a los especialistas y a los ciudadanos. En ese sentido, resulta fundamental que los usuarios analicen la situación antes de responder cualquier mensaje que reciban a través de las TICS y, por otro lado, incluir protocolos dentro de los Programas de Compliance corporativo, que posean una doble verificación de las solicitudes de acciones potencialmente perjudiciales, como transferencias o cambios en la información de las cuentas bancarias de los proveedores”, finaliza Dupuy.

 

Te puede interesar
ESET-Estafa-Shopee-24-03-31-01

Alertan sobre estafas en Instagram y WhatsApp

Chaco On Line
Tecno

Una empresa dedicada a la detección proactiva de amenazas alerta sobre una estafa que se disfraza de oportunidad de ganar “dinero extra”, y es llevada adelante mediante Instagram y WhatsApp. Eset advierte que los cibercriminales imitan rasgos de una tienda legítima de e-shop llamada “Shopee”, atrayendo a usuarios desprevenidos con promesas tentadoras como ganar grandes sumas de dinero en un día, vendiendo productos aparentemente genuinos.

Inteligencia-artificial-24-03-31-01

Hacia la regulación de la IA

Chaco On Line
Tecno

La primera ley integral sobre IA del mundo entrará en vigencia en 2.026 y se aplicará por fases .Uno de los puntos más polémicos es el uso que las fuerzas del orden pueden hacer de las cámaras de identificación biométrica en espacios públicos para garantizar la seguridad nacional, y para el que necesitará autorización judicial.

05-17-dia-de-internet-23-05-17-01

Día Mundial de Internet: Nuevas problemáticas del uso cotidiano

Chaco On Line
Tecno

En el Día Mundial de Internet, la asociación civil Argentina Cibersegura presenta un nuevo ciclo de charlas sobre las nuevas problemáticas del uso cotidiano. Violencia digital, privacidad y huella digital, seguridad online y estafas digitales, son algunas de las temáticas que integran la agenda temática.

Lo más visto
Festival-de-la-Milanesa-Anuncio-24-05-21-01

El Concurso de la Milanesa tendrá su segunda edición

Chaco On Line

La Municipalidad de Resistencia anuncia la segunda edición del Concurso de la Milanesa, como parte del Festival Patrio.  Esta actividad se desarrollará el sábado 25 y domingo 26, en el Parque de la Democracia.

Greenpeace-Desmontes_en__Chaco__-ataudes-24-05-24-01

Greenpeace reclama con "ataúdes" frente a la Casa del Chaco

Chaco On Line

Activistas de Greenpeace realizan un velorio para los bosques de Chaco, frente a la casa de la provincia, en la Ciudad de Buenos Aires. Advierten que el ordenamiento territorial recientemente aprobado permite la destrucción de más de 1 millón de hectáreas.