Mechanizm powtórkowy

Eksperci zajmujący się sztuczną inteligencją z University of Massachusetts Amherst i Baylor College of Medicine twierdzą, że z powodzeniem rozwiązali to, co sami nazywają główną, długotrwałą przeszkodą w zwiększaniu możliwości sztucznej inteligencji. Czerpali przy tym inspirację z mechanizmu pamięci ludzkiego mózgu znanego jako „powtórka” (replay).

Doktor Gido van de Ven oraz główny naukowiec w tym projekcie Andreas Tolias z Baylor, wraz z Hava Siegelmann z UMass Amherst, napisali w Nature Communications, że opracowali nową metodę ochrony głębokich sieci neuronowych przed „katastrofalnym zapominaniem”. Chodzi o to, że ucząc się nowych rzeczy czy zjawisk sieci zapominają o tym, czego się wcześniej nauczyły. Metoda ta jest ponoć zaskakująco skuteczna.

Dlaczego to takie ważne?

Siegelmann i współpracownicy zwracają uwagę, że głębokie sieci neuronowe są głównymi motorami napędowymi ostatnich postępów w sztucznej inteligencji, ale ich zapominalstwo powstrzymuje postęp jakiego moglibyśmy być świadkami.

Jednym z rozwiązań byłoby przechowywanie wcześniej napotkanych przykładów i powracanie do nich podczas uczenia się czegoś nowego. Chociaż taka powtórka rozwiązuje zapominanie, ciągłe powracanie do wszystkich wcześniej nauczonych już zadań jest wysoce nieefektywne. Ponadto ilość danych, które musiałyby być przechowywane, szybko staje się wręcz niemożliwa do zarządzania.

Człowiek lepszy

W przeciwieństwie do sieci neuronowych ludzie są w stanie gromadzić informacje przez całe życie, korzystając z wcześniejszych lekcji. Ważnym mechanizmem w mózgu chroniącym wspomnienia przed zapomnieniem jest odtwarzanie wzorców aktywności neuronalnej reprezentujących te wspomnienia.

Głównym spostrzeżeniem zespołu jest to, że powtórki jakie nasz mózg sobie zarządza wcale nie służą przechowywaniu danych. Mózg raczej generuje reprezentacje wspomnień na wysokim, bardziej abstrakcyjnym poziomie bez potrzeby generowania szczegółowych wspomnień. Zainspirowani tym naukowcy stworzyli sztuczną, przypominającą mózg „powtórkę”, w której nie są przechowywane żadne dane. Zamiast tego, podobnie jak mózg, sieć generuje reprezentacje wysokiego poziomu tego, co poznała wcześniej.

Efekty

Okazało się to niezwykle skuteczne. Zespół wykazał, że odtworzenie zaledwie kilku wygenerowanych reprezentacji wystarczy, aby zapamiętać starsze wspomnienia podczas uczenia się nowych. Powtarzanie generatywne nie tylko zapobiega zapominaniu i zapewnia nową, bardziej usprawnioną ścieżkę uczenia się systemu, ale także pozwala AI uogólniać uczenie się z jednej sytuacji do drugiej.

O co chodzi? Jak to ujął van de Ven:

Jeśli nasza sieć z zaimplementowanym replay’em najpierw nauczy się oddzielać koty od psów, a następnie oddzielać niedźwiedzie od lisów, będzie również odróżniać koty od lisów bez specjalnego szkolenia. Im więcej system będzie się uczył tym łatwiej przyjdzie mu nauka kolejnych rzeczy.

„Powtórka” polega więc na odtwarzaniu wewnętrznych lub ukrytych reprezentacji generowanych przez własne, kontekstowo modulowane połączenia sieci. Metoda ma zapewniać bardzo dobre wyniki na wzorcach ciągłego uczenia się, bez jednoczesnej potrzeby przechowywania danych.