Wspomnienia mogą być równie trudne do utrzymania dla maszyn, jak dla ludzi. Aby pomóc zrozumieć, dlaczego sztuczni agenci mają dziury w swoich własnych procesach poznawczych, inżynierowie elektrycy z Uniwersytetu Stanowego Ohio przeanalizowali, w jakim stopniu proces zwany „ciągłym uczeniem się” wpływa na ich ogólną wydajność.
Ciągłe uczenie się polega na tym, że komputer jest szkolony w zakresie ciągłego uczenia się sekwencji zadań, wykorzystując zgromadzoną wiedzę ze starych zadań do lepszego uczenia się nowych zadań.
Jednak jedną z głównych przeszkód, które naukowcy wciąż muszą pokonać, aby osiągnąć takie wyżyny, jest nauczenie się, jak obejść ekwiwalent uczenia maszynowego utraty pamięci – proces, który u agentów AI jest znany jako „katastroficzne zapominanie”. Ponieważ sztuczne sieci neuronowe są szkolone w wykonywaniu jednego nowego zadania po drugim, mają tendencję do utraty informacji uzyskanych z poprzednich zadań, co może stać się problematyczne, ponieważ społeczeństwo coraz bardziej polega na systemach sztucznej inteligencji, powiedział Ness Shroff, wybitny uczony z Ohio i profesor informatyki i inżynierii na Uniwersytecie Stanowym Ohio.
„Ponieważ aplikacje do zautomatyzowanej jazdy lub inne systemy robotyczne uczą się nowych rzeczy, ważne jest, aby nie zapomniały lekcji, których już się nauczyły dla naszego i ich bezpieczeństwa” – powiedział Shroff. „Nasze badania zagłębiają się w złożoność ciągłego uczenia się w tych sztucznych sieciach neuronowych, a to, co znaleźliśmy, to wgląd, który zaczyna wypełniać lukę między tym, jak uczy się maszyna, a tym, jak uczy się człowiek”.
Shroff powiedział, że w ten sam sposób, w jaki ludzie mogą mieć trudności z przypomnieniem sobie kontrastujących faktów dotyczących podobnych scenariuszy, ale z łatwością zapamiętują z natury różne sytuacje, sztuczne sieci neuronowe mogą lepiej zapamiętywać informacje w obliczu różnych zadań następujących po sobie, zamiast tych, które mają podobne cechy.
Zespół, w skład którego wchodzą badacze z tytułem doktora z Ohio, Sen Lin i Peizhong Ju oraz profesorowie Yingbin Liang i Shroff, zaprezentuje swoje badania w tym miesiącu na 40.
Chociaż nauczenie autonomicznych systemów wykazania tego rodzaju dynamicznego uczenia się przez całe życie może być trudne, posiadanie takich możliwości pozwoliłoby naukowcom na szybsze skalowanie algorytmów uczenia maszynowego, a także łatwe dostosowywanie ich do zmieniających się środowisk i nieoczekiwanych sytuacji. Zasadniczo celem tych systemów byłoby pewnego dnia naśladowanie zdolności uczenia się ludzi.
Tradycyjne algorytmy uczenia maszynowego są trenowane na wszystkich danych jednocześnie, ale odkrycia tego zespołu pokazały, że czynniki takie jak podobieństwo zadań, ujemne i dodatnie korelacje, a nawet kolejność, w jakiej algorytm jest nauczany, mają znaczenie dla czasu, przez jaki sztuczna sieć zachowuje pewną wiedzę.
Na przykład, aby zoptymalizować pamięć algorytmu, powiedział Shroff, odmiennych zadań należy uczyć na wczesnym etapie procesu ciągłego uczenia się. Ta metoda zwiększa pojemność sieci w zakresie nowych informacji i poprawia jej zdolność do późniejszego uczenia się podobnych zadań w przyszłości.
Ich praca jest szczególnie ważna, ponieważ zrozumienie podobieństw między maszynami a ludzkim mózgiem może utorować drogę do głębszego zrozumienia sztucznej inteligencji, powiedział Shroff.
„Nasza praca zwiastuje nową erę inteligentnych maszyn, które mogą uczyć się i dostosowywać tak, jak ich ludzkie odpowiedniki” – powiedział.
Badanie było wspierane przez National Science Foundation i Army Research Office.