IA y Cibercrimen | Experta en Ciberseguridad Selva Orejón | Podcast IA #11 6p3j3q

La inteligencia artificial tiene muchas cosas buenas, hemos visto que podemos tratar enfermedades, que podemos descubrir nuevos medicamentos, que podemos educar a la gente mejor, que puede ayudarnos en el trabajo a ser más productivos. Pero también tiene muchas cosas malas, y de eso vamos a hablar hoy en el podcast. Precisamente la ciberseguridad y los problemas derivados de los deepfakes, de las falsificaciones de voz, de imagen, de vídeo, nos van a llevar a un mundo que no tenemos muy claro cómo va a ser, pero desde luego pinta problemático.

Hoy voy a tener una conversación con Selva Orejón, una de las mayores expertas en ciberseguridad.

Probablemente la habéis visto en televisión hablando del tema, pero ella lleva años, de hecho más de una década, formando a los cuerpos de seguridad tanto de España como de otros países como Brasil, Israel, etc., en ciberseguridad y ahora en inteligencia artificial. Selva es una persona increíble, tiene una personalidad arrolladora y realmente tiene muy claro y sin ningún tipo de pelo en la lengua, nos va a contar los problemas que nos trae la inteligencia artificial. Vamos a hablar de delitos, de lo que está pasando, de los crímenes que se están cometiendo por culpa de la IA y hacia dónde nos lleva todo esto. Os recomiendo este podcast, que lo veáis encarecidamente.

Selva, ¿por culpa de la inteligencia artificial estamos empezando a ver estafas donde se hacen pasar por un familiar y cosas de este estilo? Sí, se están viendo, pero a nosotros directamente han llegado muy poquitas. ¿Han salido noticias en Estados Unidos y tal? ¿Esto también está pasando en España? A nosotros nos están llegando cuando normalmente son a través de llamada y antes llegaban más con secuestros sin uso de IA y ahora, por ejemplo, esto nos está viendo.

Están llegando más que se hacen pasar por compañía energética, por empresa del sector bancario o alguna de telefonía. ¿Pero utilizan la IA para simular la voz? Lo que hacen es que te mantienen a la espera durante unos cuantos segundos mientras tú vas contestando y luego, con los pocos segundos de audio que te pueda servir a ti para poder grabarlo, luego utilizarlo para poder dar de alta a los contratos.

O sea que esta gilipollez que siempre nos han dicho de no contestes sí al teléfono...

Nosotros recomendamos que es mejor siempre que se conteste con un diga o con el nombre de la otra persona o lo que tú quieras, pero que no se conteste con el sí. A pesar de que el sí, a lo largo de una conversación, lo puedes sacar en mil y una ocasiones. Lo que pasa es que no es un sí afirmativo, sino que es un sí como si fuese de cohesión entre una frase y la otra.

Claro, no es lo mismo confirmar que un sí condicional. Ahora mismo es que es muy bestia porque todos sabemos que, o la mayoría, si la gente no lo sabe, se lo explicamos muy rápido, que con 11 laps, con 10 segundos de una voz, puedes clonarla y decir lo que quieras con un formato voice to voice que encima suena totalmente humano.

Totalmente.

A mí me sorprende las pocas cosas que están pasando, dada la tecnología que tenemos en manos de todo el público.

Yo le daría muy poquitos meses porque cuando vamos a hablar, por ejemplo, con fuerzas y cuerpos de seguridad del Estado, nosotros les vamos poniendo encima de la mesa casos que a nosotros nos llegan y sabemos que al final, si nos llegan a nosotros 13 casos en seis meses, pues esto, al cabo de tres, cuatro o cinco meses, esto va a pegar un pepinazo seguro.

Lo que pasa es que los malos es verdad que muchas veces no están tan digitalizados como pensamos. Cuando es crimen organizado, sí, pero cuando son malos al uso, como los que hasta ahora hacían estafas un poco más light, a estos todavía les cuesta empezar a utilizarlo y a darse cuenta de que es muchísimo más fácil de lo que uno se imagina.

Claro. Desde luego vamos a hablar mucho hoy de crímenes con inteligencia artificial.

Tú llevas más de 15 años formando a los cuerpos de seguridad de España, pero también de otros países, Brasil, Israel, etcétera. Y desde luego las has visto de todos los colores, sin IA, pero desde luego con IA ahora también. Pero antes de meternos ahí, ¿qué te parece a ti la inteligencia artificial a nivel personal? ¿Cómo la ves? Yo a nivel personal hace bastante tiempo que la empecé a utilizar, porque tengo la grandísima suerte de que uno de mis mejores amigos trabajaba en una empresa de IA desde hace tiempo.

Entonces él me lo iba hablando, me lo iba comentando y yo decía, pues nada, tendré que ir probando yo. Y al final la utilizaba más en mi día a día, en cosas que a lo mejor me ahorran tiempo, que a mí de verdad me consume el tener que hacer cosas que sean mecánicas, entonces él me iba comentando cosas y yo las iba implementando.

Y la utilizo mucho, demasiado yo creo, se me ha ido ya un poco. Pero luego también tengo alguna otra amiga que le preocupa mucho el medio ambiente y que últimamente me está haciendo reflexionar mucho sobre el uso que se está haciendo de recursos naturales, etcétera. Entonces estoy un poco como, no puedo decir amor-odio, porque es mucho más amor y odio prácticamente nada, pero tengo un pequeño resquicio de duda de si se me está yendo de las manos el uso de la IA en mi día a día. A ti a nivel personal, te has vuelto adicta ¿no? No llega, no llega, pero por ejemplo audios de amigas de 9 minutos, pues Lucía me viene fenomenal. Bueno se lo escribe y a veces chat repite y me dice una respuesta. No lo suelo