Noticias

Sep 25, 2023

Piratas informáticos de sombrero blanco en la Universidad Estatal de Idaho que protegen los futuros sistemas de IA de reactores nucleares de los ataques cibernéticos

5 de junio de 2023 Ayudar a asegurar los sistemas automatizados que operarán el

5 de junio de 2023

Ayudar a asegurar los sistemas automatizados que operarán los reactores nucleares del futuro está recayendo sobre los hombros de un grupo de hackers de sombrero blanco en la Universidad Estatal de Idaho.

Recientemente, Leslie Kerby, profesora asociada de ciencias de la computación, e investigadores que trabajan en el Laboratorio de ingeniería computacional y ciencia de datos de Kerby están trabajando para perforar agujeros digitales en los sistemas de inteligencia artificial que se están probando para determinar su capacidad para ejecutar reactores modulares pequeños y avanzados de forma autónoma.

"Los datos son la clave de cualquier sistema de inteligencia artificial, independientemente de para qué se utilicen, porque estos sistemas funcionan mediante el aprendizaje de patrones y tendencias dentro de los datos", explica Pedro "Pepo" Mena, investigador postdoctoral que trabaja en el laboratorio de Kerby. "La forma en que aprenden es posiblemente la principal razón por la que los sistemas de inteligencia artificial pueden ser vulnerables a un ciberataque. Al manipular los datos que utiliza el sistema, un mal actor puede afectar la salida del sistema y, por extensión, afectar las decisiones que toma el sistema. Simplemente Mientras tratamos de proteger nuestros datos personales, los científicos de datos deben tomar medidas para proteger la información que utilizan estos sistemas para evitar que se vean comprometidos".

Trabajando en su laboratorio con sede en Idaho Falls, Kerby y ella estimulan la IA desde tres ángulos: ataques de inferencia, reprogramación adversaria y ataques de troyanos. Comenzando con el ataque de inferencia, realizan ingeniería inversa del sistema y obtienen una idea de con qué están trabajando. A partir de ahí, pueden corromper sus datos, obligando al sistema a "pensar" de manera diferente y realizar acciones para eventos que no están sucediendo en la realidad. La última forma en que prueban el sistema es a través de un ataque troyano. El equipo reemplazará el sistema con una versión que se ve y se comporta principalmente como la versión correcta, pero tiene algunos cambios en el código que tienen consecuencias desastrosas.

"Los sistemas de inteligencia artificial se están implementando en muchos campos, a menudo sin comprender completamente los riesgos de seguridad que pueden traer", dijo Kerby. "Muchos sistemas de IA son un sistema de caja negra, lo que significa que producen una salida pero no revelan cómo funcionan. Puede engañar a estos sistemas para que proporcionen salidas incorrectas haciendo pequeños cambios en los datos que utiliza el sistema".

"Cuando llegué a ISU, no tenía idea de lo que me esperaba", dijo Kallie McLaren, estudiante de último año de Idaho Falls, Idaho. "Siempre he sabido que la IA es un campo muy interesante y en crecimiento, pero nunca había pensado realmente en los riesgos potenciales para la IA ni había pensado en investigar reactores nucleares autónomos antes de este proyecto. Este proyecto ha sido muy esclarecedor para los avances en el mundo real y es fascinante ver cómo pequeños cambios en los datos pueden hacer un gran cambio en los sistemas de IA. Es emocionante ser parte de uno de los campos de más rápido crecimiento, y me ha encantado ser parte de este equipo de investigación. "

El equipo del estado de Idaho también está colaborando con investigadores del Laboratorio Nacional de Idaho y Georgia Tech. La investigación en el estado de Idaho está siendo financiada con casi $250,000 del Laboratorio Nacional de Idaho y la Oficina de Energía Nuclear del Departamento de Energía de los Estados Unidos.

"Cuando terminemos con este proyecto, nuestro equipo debería poder demostrar los riesgos de seguridad que enfrentan estos sistemas y proporcionar algunas de las mejores prácticas para ayudar a implementar sistemas de inteligencia artificial más seguros, particularmente en el campo de la ingeniería nuclear", dijo Kerby. "A nivel personal, los estudiantes que trabajen en este proyecto aprenderán habilidades valiosas y establecerán conexiones con líderes de la industria que tendrán un impacto positivo en sus carreras".

"No sabía qué quería estudiar cuando llegué a ISU, pero sabía que quería hacer algo en un campo STEM", dijo Eric Hill, un estudiante de último año con especialización en ingeniería mecánica con especialización en informática de Idaho Falls. . "Elegí ingeniería mecánica como mi especialización, pero también tomé varias otras clases que despertaron mi interés, incluidas varias clases de informática del Dr. Kerby. Así es como me involucré en este grupo de investigación, y trabajar en este proyecto ha sido una excelente oportunidad para mí de aprender más sobre los campos de la informática y la IA. Ha solidificado mi interés en continuar con este tipo de investigación, y me siento honrado y agradecido de poder trabajar en este proyecto".

Para obtener más información sobre el Departamento de Ciencias de la Computación de la Universidad Estatal de Idaho, visite isu.edu/cs.

Los futuros estudiantes pueden programar una visita al campus en isu.edu/visit.

Facultad de Ciencias e IngenieríaNoticias Universitarias