AI ma poważny problem. Nowa wiedza sprawia, że zapomina starą

‍

‍

Choć nowoczesne modele sztucznej inteligencji osiągają imponujące wyniki w wielu dziedzinach, nadal mają istotną słabość. W przeciwieństwie do ludzi nie potrafią skutecznie uczyć się przez całe życie, stopniowo poszerzając swoją wiedzę bez utraty wcześniej zdobytych umiejętności.

‍

Naukowcy określają ten problem mianem „katastrofalnego zapominania” (catastrophic forgetting).

‍

Gdy nowe informacje wypierają stare

‍

W klasycznym modelu uczenia maszynowego sieć neuronowa jest trenowana na ogromnym zbiorze danych, a następnie wykorzystywana do wykonywania określonych zadań.

‍

Problem pojawia się wtedy, gdy system musi dostosować się do nowych danych lub zmieniających się warunków. Po aktualizacji model może poprawić wyniki w nowych zadaniach, jednocześnie tracąc część wcześniej nabytej wiedzy.

‍

W praktyce oznacza to, że sztuczna inteligencja może nauczyć się czegoś nowego, ale „zapomnieć” rzeczy, które wcześniej wykonywała bardzo dobrze.

‍

Dane ze świata rzeczywistego bywają inne

‍

Dobrym przykładem są systemy medyczne wykorzystujące sztuczną inteligencję.

‍

Jeden z projektów Google Health przeznaczony do wykrywania retinopatii cukrzycowej — schorzenia siatkówki oka związanego z cukrzycą — osiągał bardzo dobre wyniki podczas testów laboratoryjnych.

‍

Po wdrożeniu w klinikach w Tajlandii pojawiły się jednak trudności. Spośród 1838 przeanalizowanych zdjęć aż 393 nie spełniały wymogów jakościowych niezbędnych do prawidłowej oceny.

‍

Nie oznaczało to, że sama choroba się zmieniła. Problem polegał na tym, że zdjęcia wykonywane w codziennej praktyce różniły się od tych użytych podczas szkolenia systemu.

‍

Na skuteczność wpływały między innymi:

‍

• różna jakość aparatów,
• warunki oświetleniowe,
• odbicia światła,
• organizacja pracy placówek medycznych,
• trudności w wykonywaniu zdjęć niektórym pacjentom.

‍

Świat zmienia się szybciej niż algorytmy

‍

Eksperci nazywają to zjawisko zmianą rozkładu danych. Oznacza ono, że informacje trafiające do systemu po wdrożeniu mogą znacząco różnić się od danych, na których był trenowany.

‍

W takich sytuacjach „zamrożony” model szybko zaczyna tracić skuteczność.

‍

Jednym z rozwiązań mogłoby być ciągłe trenowanie systemu od początku na wszystkich starych i nowych danych. Taki proces wymaga jednak ogromnej mocy obliczeniowej i jest często niepraktyczny.

‍

Przyszłość należy do uczenia ciągłego

‍

Dlatego coraz większą uwagę badaczy przyciąga tzw. continual learning, czyli uczenie ciągłe.

‍

Jego celem jest umożliwienie sztucznej inteligencji stopniowego zdobywania nowych umiejętności bez konieczności rozpoczynania nauki od zera.

‍

Największym wyzwaniem pozostaje znalezienie równowagi pomiędzy:

‍

• plastycznością, czyli zdolnością do przyswajania nowych informacji,
• stabilnością, pozwalającą zachować wcześniejszą wiedzę.

‍

Czy AI nauczy się jak człowiek?

‍

To właśnie ten kompromis jest dziś jednym z najważniejszych obszarów badań nad sztuczną inteligencją.

‍

Naukowcy są zgodni, że dopiero systemy zdolne do efektywnego uczenia się przez całe życie będą mogły funkcjonować w dynamicznym świecie równie skutecznie jak ludzie.

‍

Do tego momentu sztuczna inteligencja pozostanie niezwykle użytecznym narzędziem, ale wciąż będzie miała problemy z adaptacją do szybko zmieniającej się rzeczywistości.

‍