Характеристики на ефективните алгоритми за дългосрочно запаметяване посредством преговор през интервали

Статията прави обзор и анализ на различни алгоритми за запаметяване. Обсъждат се предимствата и недостатъците на различни методики и се представят характеристиките на успешните сред тях. Изводите от анализа са, че за ефективността на запаметяване допринасят динамичното оптимизиране на персонализирани интервали между повторенията, максималното дистанциране на интервалите във времето, както и повторенията в рамките на първия ден след преподаването на учебния материал. В заключение се изтъква ролята на софтуерните апликации за обучение, с чиято помощ алгоритмите за запаметяване могат да бъдат успешно приложени.

Въведение

Всеизвестен факт е, че основен проблем при запаметяването на нова информация, е процесът на забравяне. В процеса на усвояване, новата информация неизбежно избледнява с времето. Затова затвърждаването на учебния материал чрез нови повторения е задължително за трайното му запаметяване. Въпросът е колко пъти, кога и как да се затвърждава той, за да бъде процесът на дълготрайното му усвояване максимално лесен и ефективен. Настоящата статия прави преглед и анализ на различни алгоритми за запаметяване в опит да извлече главните характеристики, които допринасят за ефективността на дадена методика.

Преглед и анализ на различни методи за повторение

Съществуват много изследвания, които потвърждават, че ученето чрез повторения през интервали, дистанцирани помежду си във времето, може да бъде по-ефективно от масираното учене (многократното повторение на материала в един момент). Както посочват Д. Балота и екипът му (Балота и кол., 2007), позовавайки се на Дж. Макджиъ (МакДжиъ 1943), това наблюдение е формулирано в закона на Йост, който твърди, че ако две асоциации имат еднаква сила, но датират от различно време, то новото повторение има по-голяма стойност от предходното.

Л. Питърсън и колегите му също забелязват, че схемата на разделено от интервали повторение постига значително по-добри дългосрочни резултати на запаметяване в сравнение с масираното повторение, при което учащият повтаря многократно предадения му материал в една учебна сесия. За сравнение, при масираното повторение резултатите са по-добри краткосрочно. (Питърсън и кол. 1963).

Н. Сепеда (Сепеда и кол. 2006) посочва, че ползата от дистанцирането на повторенията е особено явна при запаметяването на вербална информация, позовавайки се на В. Мос (Мос 1996), който, като преглежда 120 научни публикации, стига до извода, че в областта на усвояването на вербална информация (например, правопис) и моторните умения, дистрибутираното учене през по-дълги интервали е по-ефективно в над 80% от изследванията.

По отношение на дистрибутираните повторения през интервали съществуват различни методики и алгоритми за определяне на оптимални интервали за повторение на учебния материал. Както посочват Б. Сетълс и Б. Мийдър (Сетълс и Мийдър 2016), в основата на теорията за паметта стои моделът на Х. Eбингхаус (Eбингхаус 1885), известен още като „кривата на забравяне“.

Eбингхаус дефинира ерозирането на паметта експоненциално през времето със следната формула:

p = 2^−∆/h

където:
– p е вероятността човек да си спомни коректно запаметената информация (например, дума),
– ∆ е изминалото време от последното повторение,
– h е степента, в която се е запаметила думата.

В този случай:

– Ако думата за последно е практикувана току-що, ∆ = 0, а оттам:

p = 2^−0/h = 2⁰ = 1, или практически 100% шанс тя да бъде правилно възпроизведена.

– Ако думата за последно е практикувана преди времеви интервал, равен на степента, в която тя е била запаметена, то: ∆/h = 1, а оттам:

p = 2^−∆/h = 2^-1 = 1/2, или 50% шанс тя да бъде възпроизведена правилно.

– Ако думата за последно е практикувана преди времеви интервал, който многократно надвишава степента, в която тя е била запаметена, то, очевидно учащият изостава значително от оптималната схема за запаметяване и се очаква почти със сигурност той да не може да възпроизведе думата. В този случай: p = 2^−∆/h ≈ 0, или шансът тя да бъде възпроизведена правилно клони към 0% (Сетълс и Мийдър, 2016).

Очевидно, за постигане на оптимална схема за запаметяване, трябва да се открият такива интервали, които да осигуряват в максимална степен, че ∆ < h, т. е., вероятност над 50% за правилно възпроизвеждане на думата след последното ѝ преговаряне, като същевременно да са максимално дълги, за да е възможно с минимален брой преговаряния да се осигури максимално дълготрайно запаметяване на информацията.

Съществуват различни експерименти и предложения за разнообразни алгоритми, които биха могли да бъдат оптимално решение на този проблем.

В началото на XX век Х. Шпитцер провежда експеримент с 3605 ученици от шести клас в щата Айова – всички шестокласници от 91 училища. Учениците са разделени в 10 групи и са тествани върху учебен материал на тема „Бамбук“, който прочитат веднъж. Всички групи правят и контролен тест върху друг материал, като на базата на резултатите си от контролния тест са разпределени в тези 10 групи, така че потенциалът им за учене да е практически еднакъв и да бъде елиминиран като влияещ фактор при интерпретирането на резултатите. Десетата група прави тест върху учебния материал, без да е чела статия за бамбука, а останалите девет групи първо четат статията и след това правят тест (или тестове) през определени интервали. Първите шест групи провеждат теста няколко пъти в различни дни. Схемата на интервали и резултатите от тях са, както следва:

Първа група провежда тестовете незабавно след четенето на статията, след един ден и след 21 дни. Резултатите от тестовете ѝ са съответно 53%, 52% и 49%[1] правилно възпроизвеждане.

Втора група провежда тестовете незабавно след четенето на статията, след седем дни и след 63 дни. Резултатите от тестовете ѝ са съответно 53%, 47% и 43%.

Трета група провежда тестовете след един ден и след 14 дни. Резултатите от първия и втория тест са съответно 38% и 36%.

Четвърта група провежда тестовете след седем дни и след 21 дни. Резултатите от първия и втория тест са съответно 31% и 33%.

Пета група провежда тестовете след 14 дни и след 28 дни. Резултатите от първия и втория тест са съответно 27.9% и 28.4%.

Шеста група провежда тестовете след 21 дни и след 63 дни. Резултатите от първия и втория тест са съответно 26% и 28%.

Седма и осма група провеждат само по един тест – съответно на 28-мия и на 63-тия ден, а резултатите им са съответно 27% и 26%.

Девета група прочита учебния материал и незабавно след него провежда два теста един след друг, с цел да опита да подобри резултата от първия тест на втория тест. Резултатите от втория тест, обаче, са незначително по-добри от тези на първия, и Шпитцер стига до извода, че допълнителното повторение на материала, ако не е отдалечено във времето след даден интервал, не увеличава в голяма степен ефекта от запаметяването (Шпитцер 1939). Въпреки това, обаче, остава отворен въпросът: ако учениците от групата, провела два последователни теста незабавно след прочитането на материала, са били съпоставени с друга група, която е направила само един тест след четенето на материала, дали те не биха се представили по-добре на следващ тест след няколко дни.

Шпитцер прави задълбочен анализ на проведените тестове, като взима предвид допълнителни фактори, като потенциала за учене на учениците от дадена група, базирана на допълнителен контролен тест, и трудността на отделните единици в теста, измерващ степента на запаметяване във времето. Той стига до няколко важни наблюдения и заключения:

1) Трудността на единиците информация, която се запаметява, не влияе на скоростта, с която се забравя информацията. Това е особено интересно, тъй като е контраинтуитивно и е в противоречие с изказаната по-горе теория, че по-дълги лексеми биха се забравили по-бързо от сравнително кратки лексеми (в случай на езиково обучение).

2) Потенциалът за успешно усвояване на материала на отделните учащи, обаче, категорично влияе върху скоростта, с която те забравят преподаваната информация. Шпитцер установява, че скоростта на забравяне при най-силно представящите се учащи достига плато около три пъти по-бавно, отколкото при най-слабо представящите се учащи.

3) Скоростта на забравяне на материала е най-голяма в интервала между първоначалното преподаване на материала и един ден след това. Оттук би могла да се изведе теорията, че затвърждаването на материала един ден след неговото преподаване е особено важно.

4) Изпитването върху материал има стойност на учене, или затвърждаване на материала, а не просто на проверка за това, доколко той е запаметен. Всяко изпитване допринася за бъдещото по-качествено запаметяване на учебния материал.

5) Шпитцер също така стига до извода, че е особено важно на учащите да се показват грешките им и да им се дава възможност да ги поправят.

6) Шпитцер забелязва също, че и първа, и трета група са провели тест на деня след първоначалното преподаване на материала, но резултатът на първа група е значително по-висок от този на трета група. Обяснението за това е ефектът от първия тест, който първа група е провела в деня на преподаване на урока, веднага след преподаване на урока (Шпитцер 1939).

Сравнявайки резултатите на трета и четвърта група, можем да направим още едно интересно наблюдение. Тези две групи имат почти еднакъв интервал между двата теста, които са провели, съответно 13 дни за трета група, и 14 дни за четвърта група Всъщност, интервалът между тестовете за четвърта група, дори е по-голям от този за трета група. Но четвърта група получава по-добър резултат на втория тест спрямо първия, отколкото трета група. Фактът, че и двете групи са провели само два теста, без да са провели нито един друг тест преди тези два теста, ги поставя при равни условия във всяко едно отношение, освен дните на провеждане на двата теста. При тези условия се оказва, че групата, която е провела тестовете през по-големи интервали и на по-късни дати, съответно 7 и 14, вместо 1 и 13 дни, е получила по-добри резултати. Това на пръв поглед е контраинтуитивно, защото се очаква след по-голям период от време учащият да е забравил повече. Пета група също провежда само два теста, и също се представя по-добре на втория, отколкото на първия. Тя провежда тестовете на 14-ия и 28-ия ден. При нея отново се наблюдава подобряване на представянето при второто тестване спрямо първото, но трябва да се отчете фактът, че положителната разлика между резултатите на втория и първия тест са по-големи при четвърта група.

Какво би могло да е обяснението за този феномен? Законът на Йост, посочен по-горе, твърди, че повторенията, датиращи от по-късен момент имат по-голяма тежест, отколкото повторенията, осъществени преди тях. Това би могло да е причината и четвърта, и пета група да имат по-добри резултати на втория тест спрямо първия, отколкото трета група. А именно, че са провели тестовете през интервали, по-отдалечени във времето. В същото време, обаче, причината подобрението на пета група на втория тест спрямо първия да е по-малко от това на четвърта, би могло да е следствие от факта, че тя е провела първия тест едва на 14-тия ден, а четвърта група – на седмия. Т.е., четвърта група е била запазила в паметта си повече информация, която може да затвърди, към момента на провеждане на първия тест спрямо пета група. Това е видно и от резултатите от първия тест на четвърта и пета група – четвърта група получава по-висок резултат на първия тест от пета. В такъв случай, би могло да се изкаже твърдението, че наистина, както следва от закона на Йост, абсолютната тежест на ефективността за запаметяване на дадено повторение е пропорционална на отдалечеността във времето на това повторение – или колкото по-отдалечено във времето е дадено повторение, толкова по-голяма е степента, в която то ще затвърди вече запаметената информация към момента на това повторение. В същото време, обаче, ако повторенията са прекалено отдалечени едно от друго, съществува риск информацията да бъде забравена, и повече да не може да бъде затвърдена. Затова е нужно намирането на оптимален баланс, който да осигури максимално отдалечени един от друг интервали, които същевременно остават достатъчно близки един до друг, така че през времето между тях да не се забрави информацията, която трябва да се затвърди при следващия интервал. Това отново потвърждава тезата, че интервалите за повторение трябва да бъдат оптимизирани на база степента, в която учащия забравя в рамките на даден интервал според модела на Ебингхаус, посочен по-горе.

Няколко десетилетия след изследването на Шпитцер, П. Пимслюр (Пимслюр 1967) предлага модел за запаметяване на лексика по специфична схема, за която той въвежда понятието „припомняне през скалиран интервал“ (“graduated interval recall”). Пимслюр посочва, че процесът на забравяне протича по определена закономерност във времето. Ако учащият е изпитан на преподадената му дума една секунда след като той чуе за първи път, вероятността той да си я припомни правилно е на практика 100%. Този процент започва да намалява с всяка изминала секунда. Пимслюр посочва приблизителните очаквани стойности на кривата на забравяне според изследванията на Л. Питърсън, публикувани от Б. Ъндърууд (Ъндърууд 1964).

Според Питърсън вероятността за правилен отговор девет секунди след чуването на думата е около 20%. След всяко затвърждаване на информацията тя се запазва до определен момент, в който започва да избледнява. При всяко следващо припомняне тя се запаметява все по-силно и за все по-дълъг период, т. е. всяко следващо припомняне на информацията има нужда да бъде направено след по-голям интервал от предходния интервал. Позовавайки се на Б. Уудуорт (Уудуорт, Шлосберг 1954) и Ч. Осгууд (Осгууд 1953), Пимслюр предлага стандартизиран модел за преговор през експоненциално нарастващи интервали. За първи интервал на припомняне следва да се вземе интервал, след който очакваната вероятност думата все още да не е забравена пада до условно определено ниво – например до 60%. Пимслюр посочва примерен интервал от пет секунди (Пимслюр, 1967). При този стартов интервал схемата за повторение на първите 11 припомняния на думата изглежда по следния начин:

Горната таблица показва схемата на интервално повторение, представена чрез експоненциалното нарастване на интервала, в който трябва да се направи следващо затвърждаване на заучената дума, преди тя да бъде забравена, според Пимслюр. Първият ред показва броя повторения, а първата колона – времевите единици, в които се измерва интервалът. Изчисленията са направени с пълна точност само във втория ред в секунди, а след това са пресметнати и закръглени в други мерни единици за по-лесно приложение. Следващите две затвърждавания следва да са съответно на десетата и петдесетата година след първоначалното преподаване на думата.

Схемата на Пимслюр има предимството, че предлага бързо експоненциално нарастващи интервали, но при нея се очертават два основни проблема. Първо, не е ясно до колко приложимо на практика е стриктното изпълнение на първите повторения, които трябва да се извършват в рамките на няколко секунди и минути, съответно: 5 секунди, 25 секунди, ~2 минути и ~5 минути. Също така, тази схема предполага 6 повторения на информацията в рамките на първия ден (деня, в който тя се преподава за първи път). Както беше посочено по-горе, обаче, Шпитцер (Шпитцер 1939) установява, че едно повторение след първоначалното запознаване с материала носи ползи за правилното му възпроизвеждане на следващия ден, но повече от едно повторение в рамките на същия ден не носи допълнителни значителни ползи в това отношение. Затова остава под въпрос доколко изобщо са необходими останалите пет повторения в рамките на първия ден.

Вторият недостатък в схемата на Пимслюр е, че тя не регулира интервалите персонализирано на база на потенциала за учене на учащия и лекотата, с която той усвоява определена лексика или друг тип информация. В такъв случай при запазване на константни интервали за повторение, очаквано е тези интервали да се окажат излишно дълги в някои случаи, а прекалено кратки – в други.

Потенциално решение на този проблем дава С. Лайтнер (Лайтнер 1972), който през 1972 г. предлага система за обучение с флашкарти с динамични интервали, които се обуславят от резултата от последния преговор на думата. Б. Сетъл и Б. Мийдър (Сетълс и Мийдър 2016) представят примерен вариант на системата му. Група флашкарти с думи за запаметяване следва да бъдат разпределени в кутии, които определят кога да бъде следващото им повторение. Флашкартите в първа кутия следва да бъдат преговорени след един ден, картите във втората – след два дни, картите в третата – след четири дни, в петата – след осем дни и т.н. като всяка следваща кутия удвоява интервала за повторение. След първия преговор на флашкартите тези от тях, които са правилно запаметени, се преместват в следващата кутия, т. е. следва да бъдат преговорени след два дни. Ако и след два дни те са преговорени правилно, преминават в следващата кутия, т. е. следва да бъдат преговорени след още четири дни, или чак на осмия (1+1+2+4) ден. При неуспешен преговор, обаче, флашкартите, които са неуспешно запаметени, се връщат в предишната кутия, например, от кутията за повторение след четири дни, се връщат в кутията за повторение след два дни. Така те следва да бъдат преговорени по-скоро. Тази система на Лайтнер има очевидното предимство пред тази на Пимслюр, защото взема предвид индивидуалната ефективност на запаметяване на конкретния учащ. Тя е и първата използвана система за запаметяване на лексика в Duolingo – най-голямата апликация за учене на чужди езици с над 150 милиона потребители.

Идеята на Лайтнер за динамични интервали, обусловени от индивидуалната степен на запомняне на обучаващия се, впоследствие бива надградена с други алгоритми. Пример за такъв алгоритъм е SuperMemo 2, въведен от Пьотр Возняк, който като студент по молекулярна биология търси оптимален начин за учене на материала от следването си, както и за усвояване на английска лексика. Возняк въвежда алгоритъм за запаметяване на информация, който представя в магистърската си теза (Возняк 1990). Алгоритъмът на Возняк дефинира повторения през следните интервали:

Първо повторение: след 1 ден
Второ повторение: след 6 дни
N-то повторение за n>2: дните за предходното повторение * EF,

където EF е коефициент на степен на трудност на информацията, която се запаметява. За най-лесните единици за запаметяване (и по подразбиране първоначално за всяка нововъведена единица):

EF = 2,5

След начално въвеждане на думата нейният коефициент EF се модифицира за всяко следващо повторение по следната формула:

EF‘:=EF-0.8+0.28*q-0.02*q*q

където:

EF‘ е новият коефициент EF за следващото повторение,
EF е последният коефициент, ползван в последното повторение,
q е качеството на отговора при преговора, който се оценява по скалата 0 до 5 включително, като 5 отговаря на перфектен, безупречен отговор, а 0 – на напълно провален отговор.

В най-лошия случай, за най-трудните единици, които следва да се повтарят най-често, обаче, не се допуска EF да пада под 1,3.

SuperMemo набира световна популярност като широко приложим алгоритъм и е имплементиран под различни форми в програми под Windows. Алгоритъмът се ползва и в популярната апликация за запаметяване на лексика чрез флашкарти Anki. Алгоритъмът продължава да се усъвършенства години наред и неговите бъдещи версии са приложени в платформата за учене на чужди езици SuperMemo, като последната версия към 2021 г. е SuperMemo 18. Екипът на SuperMemo, обаче, разкрива публично само формулата на SuperMemo 2, докато последните версии на алгоритъма се пазят в търговска тайна.

Изследване на Колбран, публикувано през 2018 г., сравнява ефективността на SuperMemo 2 с тази на алгоритъма на Лайтнер в контекста на запаметяване на учебна информация по право. В изследването се установява, че SuperMemo 2 е по-ефективният алгоритъм от този на Лайтнер (Колбран и кол. 2018).

През 2016 г. Сетълс и Мийдър предлагат нов, авторски алгоритъм за запаметяване на лексика. Той е комплексен и е базиран на машинно самообучение. Въз основа на проведен експеримент те сравняват ефективността на запаметяване при изучаване на чуждестранна лексика на няколко алгоритъма, а именно: на Пимслюр, на Лайтнер, както и на няколко версии на техния собствен алгоритъм, базиран на машинно самообучение. Алгоритъмът на Лайтнер се представя по-добре от този на Пимслюр. Що се отнася до алгоритъма на авторите, заключенията им са, че една от неговите версии се представя найдобре от всички алгоритми (Сетълс и Мийдър 2016).

Изводи

Като заключение от анализа на описаните по-горе изследвания, могат да бъдат направят следните изводи:

1. Всяко повторение на учебния материал, разпределено в максимално дълъг период от време, би могло да носи по-голяма полза за дълготрайното запаметяване на материала в сравнение с идентично повторение на материала в рамките на по-кратък период на повторение. Това е вярно, обаче, само ако този максимално дълъг период между двете повторения е и достатъчно кратък, така че между тях информацията в паметта да не бъде забравена.
2. Затвърждаването на материала веднага след преподаването му, както и на първия ден след преподаването му, е от особено значение за степента, в която той може да бъде дългосрочно запаметен.
3. Потенциалът за учене на различните обучаеми влияе върху скоростта, с която те забравят преподаваната им информация. Алгоритмите, които определят интервалите, през които се провеждат преговорите на учебния материал персонализирано – на база на резултатите от последния преговор на конкретния учащ, имат предимство пред фиксираните интервали.
4. Относително по-комплексни алгоритми за персонализирана оптимизация на интервалите осигуряват по-добри резултати спрямо сравнително елементарния алгоритъм на Лайтнер.
5. Независимо от типа на алгоритъма за запаметяване, остават несъмнени ползите от контролираното прилагане на точно изчислените интервали за повторение. Последното, обаче, е практически много трудно, понякога до степен на невъзможност. Потенциално решение на този проблем биха могли да бъдат софтуерните приложения за обучение, които могат да изчисляват с максимална точност интервалите за преговор, да ги персонализират на база на представянето на конкретния учащ, и да го стимулират с електронни известия, или други средства, да се придържа към графика за преговор.

БИБЛИОГРАФИЯ

Балота и кол. 2007: Balota, D. A. Duchek, J. M. Logan, J M. Is Expanded Retrieval Practice a Superior Form of Spaced Retrieval? A Critical Review of the Extant Literature. – In: The foundations of remembering: Essays in honor of Henry L. Roediger, III, “Psychology Press”, 2007, pp. 83–105.

Возняк 1990: Wozniak, P. A. Optimization of learning. (Unpublished master’s thesis), Poznan University of Technology. Poznan, Poland, 1990.

Eбингхаус 1885: H. Ebbinghaus. Memory: A Contribution to Experimental Psychology. New York: Teachers College, Columbia University, 1885.

Колбран и кол. 2018: Colbran, S., Jones, W., & Milburn, J. Comparing spaced repetition algorithms for legal digital flashcards. – In: Open Oceans: Learning Without Borders, 92, 2018, pp. 92–102.

Лайтнер 1972: Leitner, S. So lernt man lernen. AngewandteLernpsychologie – ein Weg zum Erfolg. Freiburg im Breisgau, Germany: ”Verlag Herder”, 1972.

МакДжиъ 1943: McGeogh, J. A. The psychology of human learning. New York: “Longmans Green”, 1943.

Мос 1996: Moss, V. D. The efficacy of massed versus distributed practice asa function of desired learning outcomes and grade level of the student. (Doctoral dissertation), Utah State University, 1995, Dissertation Abstracts International, 56, 5204.

Осгууд 1953: Osgood C. E. Method and Theory in Experimental Psychology, „Oxford University Press“, 1953.

Пимслюр 1967: Pimsleur, Paul, A memory schedule. – In: The Modern Language Journal, Vol. 51, No. 2, Feb., 1967, pp. 73–75.

Питърсън и кол. 1963: Peterson L. R., Wampler R., Kirkpatrick M. Saltzman D. Effect of spacing presentations on retention of a paired associate over short intervals – In: Journal of Experimental Psychology, September, 1963, 66(2), pp. 206–209.

Сепеда и кол. 2006: Cepeda, N., Pashler, H., Vul, E., Wixted, J., & Rohrer, D. Distributed Practice in verbal Recall Tasks: A Review and Quantitative Synthesis. – In: Psychological Bulletin, 132 (3), 2006, pp. 354–380.

Сетълс и Мийдър 2016: Settles, B., & Meeder, B. A trainable spaced repetition model for language learning – In: Proceedings of the 54th annual meeting of the association for computational linguistics. (Volume 1: long papers), pp. 1848–1858.

Уудуорт, Шлосберг 1954: Woodworth R. S., Schlosberg, H. Experimental Psychology. New York: ”Holt, Rinehart and Winston”, 1954.

Шпитцер 1939: Spitzer H. F. Studies in retention. – In: Journal of Educational Psychology, December, 30(9), 1939, pp. 641–656.

Ъндърууд 1964: Underwood, B. J. Forgetting. – In: Scientific American,March, 1964.