Google DeepMind testuje agenta AI, który automatycznie naprawia luki w kodzie

Dział DeepMind firmy Google ujawnił wyniki swojego najnowszego projektu badawczego: systemu o nazwie CodeMender, zdolnego do samodzielnego znajdowania i naprawiania luk w oprogramowaniu. W przeciwieństwie do narzędzi, które tylko sygnalizują problemy, ten agent AI generuje poprawki. Na razie projekt pozostaje inicjatywą badawczą, ale już przynosi praktyczne rezultaty. CodeMender wyprodukował ponad 70 poprawek dla projektów open-source, z niektórymi z tych poprawek odnoszącymi się do baz kodu przekraczających 4,5 miliona linii.

Programiści zauważają, że celem systemu nie jest tylko reagowanie na zidentyfikowane błędy, ale także przepisanie kodu w sposób, który zapobiega pojawianiu się całych klas luk w przyszłości. Jednym z przytoczonych przykładów jest jego praca nad biblioteką libwebp, która była zaangażowana w poważny atak na iOS w 2023 roku. CodeMender automatycznie dodał konkretne adnotacje do swojego kodu, które, jak twierdzą badacze, na stałe blokują możliwość wykorzystania luk związanych z przepełnieniem bufora.

Krytycznie, wszystkie zmiany generowane przez AI są obowiązkowo sprawdzane przez ludzkich programistów przed ich przesłaniem do oryginalnych autorów kodu. Proces ten minimalizuje ryzyko i służy jako dodatkowe szkolenie dla samej sieci neuronowej.

Jeśli projekt przejdzie poza etap badań, może to zasadniczo zmienić sposób, w jaki obsługiwana jest bezpieczeństwo oprogramowania. Tradycyjne metody znajdują „dziury” w zabezpieczeniach, ale ich łatanie wciąż wymaga znacznego wysiłku ze strony ludzi. CodeMender oferuje drogę do automatyzacji tego procesu, co staje się krytycznie ważne, ponieważ objętość i złożoność nowoczesnego kodu nadal rosną.