Subjective Justification And Distributed Cognitive System

Radostina Minina

Doctoral student, BAS, ISKS

radost.minina@gmail.com

 

Когнитивна интеграция и индивидуален агент

Широко прието е субективното оправдаване да се свързва с епистемологическия интернализъм като теоретична платформа, защитаваща позицията, че условията за оправдаване трябва да са вътрешни, от перспективата на агента на познание. Грубо казано нещо е вътрешно за агента, ако той е наясно с него, може да бъде наясно с него чрез самостоятелна рефлексия. Екстернализмът е отрицание на тази позиция. Той е мисловна рамка, според която епистемичните условия (условията за оправданост на едно вярване) са част от външният свят, а не от света на нашите вътрешни състояния. Не е необходимо условията за оправдаване във всички случаи да бъдат достъпни за агента. В основата на екстернализма във всички негови форми стои определението, че познанието е плод на надежден познавателен процес. Затова екстернализмът е известен като рилайабилизъм. В тази статия ще разгледам субективното оправдаване от гледна точка на екстерналзма и теорията на Греко (1999) за когнитивна интеграция.

Какво представлява индивидуалният агент, според Греко? Той е единица, изградена от интегрирани едно с друго познавателни процеси, които биват разглеждани като диспозиции или интелектуални добродетели. Те оформят т.нар. познавателен характер на агента. Познанието се приписва на способностите на субекта като успех, следствие от упражняването на интелектуалните му способности (добродетели). Разрешаването на когнитивни задачи и придобиването на познание е зависимо от една страна от de facto надеждността на когнитивните процеси, които субектът притежава и употребява, т.е. дали неговите способности са de facto успешни в по-голяма част от случаите. Интеграцията на познавателните процеси в границата на субекта му осигурява увереност в употребата им, давайки му основание да смята, че те са надеждни от гледна точка на вътрешната, субективна,перспектива. Условията за оправдаване, според Греко, могат да бъдат изразени по следния начин:

S е обективно оправдан да вярва в р, ако р е произведено от надежден процес.

S е субективно оправдан да вярва в р, ако р е произведен от надежден процес, който е интегриран в познавателната система на агента, т.е. в интелектуалния му характер(Greco, 1999:284-5).

Ключово по отношение на субективното оправдаване в теорията на Греко е, че тя не се изисква удостоверяване на липсата или наличието на интеграция от страна на субекта. Как обаче без вътрешна проверка чрез рефлексия може да стане ясно дали агентът на познание е субективно оправдан или не? Отговорът е, че субективното оправдаване се изразява в липсата на опровергаващи обстоятелства или дифийтъри, които да спъват гладкото придобиване на вярвания. Ако това условие е изпълнено, субектът не поставя под въпрос надеждността на процеса, формирал вярването му, той е уверен в употребата на своята интелектуална способност, ако не я намира за странна и необичайна от гледна точка на собствената си перспектива. Какво означава един процес да е странен и необичаен? Ще използвам примера на Лоурънс Бонжур, за да илюстрирам:

Норман изведнъж, в следствие на някакви случайност става напълно надежден ясновидец по отношение на местонахождението на президента на САЩ във всеки един момент. Той има доказателства както за наличието на такива способности по принцип, така и против съществуването им. Също така има опровергаващи и подкрепящи данни за това дали той самия притежава тази дарба. Един ден Норман придобива натрапчивото вярване, че президентът е в Ню Йорк, въпреки че няма никакво доказателство подкрепящи или отхвърлящи това вярване. Оказва се, че вярването му е истинно и е резултат от спонтанно придобити ясновидски способности, които са напълно надеждни (Bojour, 1985:41).

В този пример се наблюдава наличието на обективно оправдаване и на de facto надеждност, но има проблем с вътрешната перспектива на агента. Интерпретиран от гледна точка на теорията за субективно оправдаване на Греко, този пример демонстрира наличието на познавателен процес (ясновидство относно местонахождението на президента), който не е интегриран в когнитивната система на агента. Той не е уверен в употребата му и съответно за него процесът е странен и необичаен. С течение на времето това може да се промени и въпросният механизъм за формиране на вярвания може да бъде интегриран, ако Норман се убеди в неговата надеждност. В следствие на все по-голямата увереност, която Норман придобива в употребата на ясновидската си способност, той я интегрира в познавателния си характер и тя стават част от идентичността му като агент на познание. Той започва да я използва без колебание и без да е необходимо да има достъп до основанията за вярванията си по отношение на местонахождението на президента.

До тук можем да обобщим, следното: субективното оправдаване е налично, когато процесът формиращ вярвания е както субективно, така и обективно надежден, той е плод на интелектуална добродетел, която е интегрирана в единен познавателен характер. Той не бива да се усеща от агента като странен и необичаен, нито да има опровергаващи обстоятелства около упражняването или формирането му. Също така е необходимо агентът да е поел отговорност за посочения процес и да го смята за свой собствен, а не субличностен. Ако всички тези условия са налични, имаме субективно оправдаване разбирано като когнитивна интеграция.

От демонстрираното дотук става ясно, че индивидуалният агент представлява система от интегрирани една с друга процеси. Тези процеси манифестират отделни негови способности и изграждат единния му характер. Възможно ли е система от повече от един индивидуални агента да формират характера на групата, в която участват? Според хипотезата за разпределено познание индивидите заедно със съпътстващите ги артефакти изграждат система надвишаващи познавателната мощ на своите членове.

Разпределено познание

Разпределеното познание е подход в когнитивната наука, който се отнася до познавателни процеси, които могат да бъдат разпределени между обекти от средата, артефакти, инструменти и други индивиди. Когнитивните процеси и резултантните когнитивни системи включват не само артефакти, но също така и други индивиди, като не поставя ограничения върху ресурсите, които са въвлечени в познавателната единица, могат и се използват различни уреди, инструменти и технологии, които да усилят мисловните способности групата от индивиди.

Ще представя основните положения е концепцията за разпределено познание с помощта на известно изследване, станало основополагащо за по-нататъшното й развитие.

Корените на разпределеното познание са дълбоки, но изследователското поле се появява под сегашното си име през 80-те. Водещ изследовател в областта е проф. Хътчинс от Калифорнийския университет. Той представя етнографско изследване на процеса на навигация на кораб при неговата акостиране на пристанище. Операцията е толкова сложна, че трябва да бъде ръководена от разширена когнитивна система, състояща се от хора, инструменти и социо-физически взаимоотношения между тях. Въпросът е кой тогава е когнитивният агент изпълняващ задачата? Дали агентите са толкова на брой, колкото са и хората ангажирани с акостирането или има само един агент - една разширена когнитивна система - а познанието е разпределено между съставните й части? За Хътчинс отговорът е по-скоро втория. Навигацията на кораб е когнитивен процес, който включва репрезентации за позицията на плавателния съд и неговото движение в дадена среда. Познанието е разпределено по такъв начин, че няма нито един индивид от екипажа, който да може да изпълни сложната задача по навигацията сам, а се осъществява от взаимодействието между много индивиди и техника. В нито един момент нито един от хората от екипажа или от възможен бъдещ екипаж няма да бъде напълно запознат с целия процес. Затова за Хътчинс задачата не се изпълнява от капитана на кораба, а от голяма и сложна система (Hutchins,1995:49).

Хипотезата за разпределено познание следва два основни принципа.

Първият се отнася до анализа на границите на когнитивните процеси. За класическата когнитивна наука те са локализирани и изследвани в мозъка. Разпределеното познание изследва когнитивни процеси извън човешкия организъм, където и да се появят. Този процесен анализ не е ограничен до това, което се случва в главата, а може да изследва социо-технологичните феномени каквито могат да се наблюдават в кабината за управление на самолет или при навигацията на кораб, акостиращ на пристанище.

Вторият принцип се отнася до диапазона от механизми, които се приема, че участват в когнитивните процеси сами по себе си. Концепцията за разпределено познание позволява на всичко, което увеличава взаимодействието и повишаването на ученето, да бъде прието за част от когнитивната система. Докато преобладаващата когнитивна наука търси когнитивните събития в манипулацията на символи (Newell, et.al, 1989) или модели на активиране в масиви от обработващи единици (Rumelhart,McClelland,1986) на индивидуално ниво, разпределеното познание търси по-широк клас от когнитивни събития и не предполага такива събития да бъдат ограничени от черепа или кожата на индивида (Hutchins, 1995:155).

Тези принципи представляват своеобразна описание на това какво може да бъде част от груповия субект. Става ясно, че разпределено познание може да означава всичко, което може да послужи за подобряване на познавателните способности на системата. Изпълнението на когнитивна задача изисква не само координирано действие между няколко човека. Части от когнитивната система присъстват по-скоро в инструментите, отколкото в нечии глави (Giere, 2004). Затова когнитивната система включва не само хора, но и артефакти и социалния контекст, в който те са въплътени. Всичко, което увеличава взаимодействието и повишаването на ученето, може да бъде прието за част от когнитивната система. Когнитивните артефакти са нещата, които ни правят по-умни. Те усилват познавателните способности на човека. Ако някой се фокусира върху продуктите на познавателните активности, ще види ясно това. Калкулаторът например засилва умението за пресмятане и аритметика, записването на нещо, което някой иска да запомни изглежда засилва паметта.

Това не е съвсем вярно. Когато запомняме нещо, като го записваме и прочитаме по-късно, паметта ни не се засилва сама по себе си, а по-скоро използваме различен набор от функционални умения, за да изпълним задачата по запаметяване. Хътчинс представя пример за това от корабоплаването:

„Корабните навигатори често се сблъскват с проблема с изчислението на скоростта на кораба от разстояние пропътувано за даден период от време. Ако корабът измине 1500 ярда за 3 минути, каква е скоростта на кораба във възли? Има много начини да бъде разрешенатази задача. Повечето читатели на тази статия вероятно ще опитат да използват хартия и молив заедно с познанието си по алгебра, за да намерят отговора. Тази процедура е ефективна, но не толкова колкото т.нар. „правило на трите минути". За опитен навигатор е достатъчно да види посочената задача, за да разбере, че отговорът е 15 възела. Скоростта във възли се равнява на стотиците ярда, които се изминават за 3 минути. Употребата на това правило е случай на наблюдение върху разположението. Правилото само по себе си е вътрешен артефакт. Но да предположим, че корабът покрива 4000 ярда за 7 минути. За този въпрос материалният артефакт наречен 3-скална номограма е по-подходящ. Една номограма има три логаритмични скали, всяка една за разстояние, време и скорост. Ако показанията на някои от дадените променливи - разстояние/скорост/време, са известни, другите могат да бъдат определени чрез поставяне на линия върху номограма, така, че да покрие известните стойности. Линията ще посочи третата скала със стойността на отговора. Ясно е, че е извършена когнитивна работа, но също така е ясно, че вътрешните процеси на човека не са достатъчни да изпълнят изчислението. Трябва да се има предвид по-голяма единица за анализ. Уменията за разчитане на скала и интерполация са координирани с манипулирането на обектите, за да установят специфично състояние на координация между линията и номограма. Това е много различен набор от агентности, който са въвлечени в разрешаването на проблема отколкото чрез алгебра и хартия и молив" (Hutchins, 2001:150).

Този пример и други подобни на него могат да послужат за основание на твърдението, че външната среда не само ни прави по-умни, а по-скоро може да се каже, че ни прави умни. Защото благодарение на взаимодействието с нея и създаването на артефакти сме способно на каквото и да е познание. Когато наблюдаваме сложните движения на мравка по плажа, имаме склонността да припишем на мравката някаква сложна програма за конструиране на пътечките, които използва. Всъщност, твърди Саймън, траекторията ни казва повече за плажа отколкото за мравката. По подобен начин, ако наблюдаваме как хората мислят в естествена среда, можем да научим толкова за тяхното обкръжение колкото и за това какво се случва в главите им. Средата около човешка не е естествена. Хората създават своите когнитивни сили от обкръжаващи ги артефакти, като оформят външна реалност, в която да упражняват уменията си подобно на номограма в корабната кабина (Hutchins, 1995:169).

Ако приложим принципите на разпределено познание при наблюдението на човешките дейности, могат да се разграничат поне три интересни вида разпределяне на когнитивни процеси: когнитивните процеси могат да бъдат разпределени сред членовете на социална група, могат да бъдат разпределени в смисъла на това, че операцията на когнитивната система включва координация между вътрешни и външни (материални или части от средата) структури и на трето място процесите могат да бъдат разпределени във времето по такъв начин, че продуктите на по-ранните събития могат да трансформират природата на следващите.

Когнитивна интеграция и разпределено познание

Кога има смисъл да приемем група от индивиди като случай на разпределено познание, а не просто като група индивиди? Първо, тя трябва да бъде добре очертана система и второ - трябва да бъде система, която произвежда когнитивни резултати. Първото условие е изпълнено, само когато груповото поведение е добре интегрирано. Добре организираният експертен панел, общността от научни сътрудници или комитети могат да бъдат добре интегрирани за разлика от случайна тълпа от хора на площада например. Второто условие е изпълнено, ако и само ако групата е способна да произвежда резултати, които имат репрезентационно съдържание или колективна оценка. Ако груповата организационна структура - процедурите й по генериране на съвместни решения или становища - позволява на групата да направи определени общи декларации, които спадат към колективните отсъждания, тогава тя спада към случаите на разпределено познание, докато тълпа без всякаква формална или неформална организация, като случайната тълпа на площада, не притежава необходимия капацитет за споделено познание. Следователно, за да конструираме модел на група като разпределена когнитивна система, трябва да представим не само индивидуалните членове, но и цялостната организационна структура.

Субектът на познание е групата в своята цялост или (ще използвам примера на Хътчинс) груповия екипаж. Сега ще опитам да го третирам (да опиша познавателната му ситуация) по начина, по който бих третирал индивидуалния субект служейки си с концепцията за когнитивна интеграция. Подобно на индивидуалните когнитивни процеси, процесите по навигация на кораба са разпределени по такъв начин, че успехът от ефективното изпълнение на задачата (акостирането на кораба) се приписва на всички участници в процедурата, които оформят когнитивния характер на субекта - екипаж. Всеки по отделно заедно с познанията и професията си оформя система от познавателни процеси. За да функционира тази система успешно, е необходимо процесите да взаимодействат и да бъдат интегрирани. Появата на неинтегриран процес, какъвто би бил например нов член от екипажа или уред, който по някаква причина се включи в процеса по навигация, ще бъде алиениран от групата, докато не докаже своята надеждност.Ако такъв процес е уред или апаратура, тя няма да бъде употребявана докато екипажът или част от него не бъда инструктиран как да го използват. Този член или уред представлява неинтегрирания, субективно неоправдан процес на индивидуално ниво. Ако за неразширената познавателна система, каквато е индивида, такива процеси са странни и необичайни, за груповия агент важи същото. Странните и необичайни процеси от гледната точка както на индивида, така и на екипажа, правят употребата им субективно неоправдана.

Концепцията за субективно оправдаване на Греко е приложима за разпределения агент и по отношение на липсата на необходимост за удостоверяване на надеждността или интегрираността на отделните познавателни процеси. Ако корабът акостира успешно и всички стъпки по неговото отвеждане до пристанището се случват по обичайния и нормален начин, тогава екипажът няма нужда да разсъждава върху способности на своите членове и апаратурата, с която разполага. Той е субективно оправдан в умението си да управлява кораба.

Функцията на субективното оправдаване в този случай е в изграждането на екипната свързаност и сработването между членовете на екипа. Ако това условие бъде покрито всеки от членовете, подобно на процесите в индивида, ще се възприема като част груповия субект, тоест ще бъде негова собственост. По този начин екипът ще поеме отговорност за начина, по който се изпълнява когнитивната задача не от гледна точка на конкретен индивид от екипажа (например на капитана), а на нивото на цялата система. И успехът или провалът при поставената задача ще се възприема като групов успех или провал. Колкото по-добре интегрирана (или в случая с екипажа по-сработена) е групата, толкова по-уверена би била тя в съвместната си дейност.

Кое е това свойство, което прави така, че изпълнението на когнитивната задача да бъде приписано на групов агент, а не на отделен член от системата? Отговорът е във формите на взаимодействие между отделните индивиди. Те могат да бъдат описани като специфични игри на взаимодействие посредством езика, които могат да се опишат като форма на реципрочен обмен на информация между членовете на системата. Функцията на езика е на проводник на взаимодействието в групата. То се осъществява подформата на игра. Съгласно Витгенщайновите „Философски изследвания", под „езикова игра" следва да се разбира в разширен смисъл „цялото, състоящо се от езика и дейностите, с които той е преплетен" (Витгенщайн 1988: 144). Те следват определени зависещи от контекста правила. Тези правила обаче не са фиксирани. Употребата на думите се разбира в контекста на взаимодействие между участниците в играта, също както и правилата се договарят и сменят в рамките на взаимодействието: „...ние можем много лесно да си представим хора, които се забавляват на една поляна с игра на топка, и то така, че започват различни, известни на всички игри, но много от тях не играят до края, а от време на време хвърлят топката безцелно нагоре, шеговито се гонят и замерват с нея и пр. През цялото време те играят някаква игра с топка и затова при всяко хвърляне на топката следват някакви определени правила.

И дали няма също така случай, при който ние играем, и - 'make up the rules as we go along'? Дори и такъв, при който ги променяме - as we go along" (Витгенщайн, 1988:184).  

Под взаимодействието в езиковите игри се има предвид, както едностранната линейна интеракция, така и взаимния обмен на информация, който води до резултат, надхвърлящ сборът от информация, притежавана от участниците във взаимодействието. В случаите на разпределени системи се има предвид втория вид игров сценарий. Не можем да твърдим, че, ако питаме непознат на улицата за посоката или получим свидетелски показания в съда, можем да оформим разпределена когнитивна система. Защо? Когнитивните процеси на индивида, който произвежда релевантната информация не са взаимосвързани с процесите на индивида, който получава информацията. Вместо това има само еднопосочна линейна зависимост между въпросните индивиди. Начинът, по който говорещият представя информацията е напълно независим от когнитивните процеси на реципиента. Необходими за разпределеното познание са нелинейни взаимодействия между когнитивните процеси на участващите индивиди. Пример за нелинейна групова интеракция може да бъде открит в проучвания в социологията и антропологията, когато става въпрос за транзакционни паметови системи (Palermos, 2016). Под това название се има предвид група от двама или повече индивиди, които си взаимодействат, за да кодират, складират и припомнят информация съвместно. Те мислят за нещата по такъв начин, по какъвто не биха могли индивидуално. Както Уегнтър (1986) и неговите колеги отбелязват, видимата интеракция между индивидите води не само до трансфера на познание, но и до изграждането на система, която използва това познание по по-висш начин от сумата на индивидуалните системи на членовете. Как е възможно множество от различни базови компоненти (отделни членове на група или когнитивни процеси), които изглеждат напълно несвързани от гледна точка на индивидуалното си ниво, да създадат специфични качества на групово ниво и да придобият общи каузални черти? Отговорът е чрез тяхното взаимодействие. Взаимодействието между съставните части от разпределената система създава специфичните системни особености.

За илюстрация нека си представим две когнитивни системи, наречени Руди и Лулу, които са части от транзакционнапаметова система:

„Да предположим, че прекарваме една вечер в компанията на Руди и Лулу, двойка съпрузи, женени от няколко години. Лулу за момент излиза в другата стая, а в това време питаме Руди откъде имат тази прекрасна препарирана канадска гъска. Той казва: „Бяхме в Британска колумбия...", и след това се провиква: „Лулу, как беше името на онова място, от което имаме гъската?". Лулу се връща в стаята, за да отговори, че е било близо до Келоуна или Пендиктън - някъде по бреговете на езерото Оканаган". Руди казва: „Да в този район, с всички щандове за плодове". Лулу накрая прави идентификацията: „Пийчланд!" (Wegner, 1985:257).

В този пример се забелязва фундаменталната роля на обратната връзка. Всеки акт на комуникация, който Лулу предприема, има ефект върху Руди, който от своя страна връща този ефект върху нея чрез обратната връзка, която продължително получава от него и обратно. Всяка от тези динамични системи продължително оформят информационният поток на другата (възможно не само на количествено, но и на качествено ниво). По време на своята дискусия различни идеи, изрази и поведение, които Руди и Лулу обменят, им позволява не само да извлекат по-богати индивидуални спомени по-бързо (което е чисто количественият обмен), но също така да се насладят на спомени, до които нормално не биха имали достъп. Следователно, при положениече процесът за възстановяване произлиза от такъв вид директна реципрочна взаимозависимост между Руди и Лулу, можем да кажем, че двете зависими системи Руди и Лулу функционират като единствена обединена система Рулу, защото транзакционните паметови процеси, които наблюдаваме принадлежат на общата система в нейната цялост (Palermos, Prichard, 2016:12). Тоест, за да имаме разширена и дори разпределена когнитивна система, противоположно на просто въплътената такава, изискването е участващите членове (съответните когнитивни агенти и техните артефакти) да взаимодействат продължително и реципрочно (на базата на обратни връзки) едни спрямо други. (Palermos, Prichard, 2016:11).

Тази сложно система се управлява не само от закономерностите отдолу-нагоре (от индивидуалното към общото), но също така и от обратната причинност, която произлиза от цялостната система. Друга особеност на динамичните системи е, че взаимодействието между частите създава свойства, които надхвърлят сумарните свойства на всеки от индивидите.

Този подход предоставя подходяща обяснителна рамка както за случите на разпределено познание, така и за индивидулните системи съставени от интегрирани една със друга познавателни процеси . Тук аналогията отново може да бъде разпозната. Теорията за динамичните системи е интересен подход към изследване на междуличностни взаимоотношения в рамките на група от индивиди. Факт е, че интеграцията между елементите в системата е много важна за нейното съществуване и функциониране. Субективното оправдаване на разширено системно ниво създава възможността за удостоверяване на наличието или липсата на подобни взаимовръзки между индивидуалните членове. Неговата познавателна стойност, както стана ясно, се изразява в поддържането на целостта на системата и нейната консолидацията на ниво вътрешни процеси. Тази функция е от огромно значение на индивидуално ниво, а що се отнася до разпределените системи този елемент на обединение прави възможно съществуването на групови единици като работни екипи, институции и изследователски групи, които действат в своята цялост и постигат когнитивни резултати значително надхвърлящи възможностите на отделните си членове.

Заключение

Съществуването на групови субекти и споделени агенти поставя пред изпитание както правните и морални норми, така и познавателните норми. Необходимостта от стандарти за оценка на de facto ефективността на групите е от огромно значение, но не по-малко значимо е това, което се случва на вътрегрупово ниво. Концепцията за субективно оправдаване на Греко предоставя възможен подход към проблема. Ако разглеждаме богатството от когнитивни умения на отделните индивиди като процеси, които следва да бъдат подходящо интегрирани, крачката към оформянето на когнитивен групов характер, чиято познавателна мощ е неизмеримо по-голяма от индивидуалните способности на неговите компоненти, зависи от взаимовръзките между тях. Субективното оправдаване разбирано по този начин има огромен познавателен принос, макар и встрани от обичайното разбиране за него - като изследване на основанията за дадени вярвания или като мълчаливо одобрение (каквото е оправдаването за Греко). Аз предложих една нормативна система за групов агент по подобие с теорията на Греко за индивуален субект. Нейните предимства са, че предоставят теоретичен модел за субективно оправдаване, който обясняваединството на някои групи за разлика от други, изразява модел за успешен работен екип, който не се вълнува от въпроса за съществуването са като единно цяло и не поставя съмнение всеки групов акт. Концентриран е върху изпълнението на когнитивните задачи и ефективната си работа, което е и целта на сформирането на подобни групи.

 

 

Литература:

Vitgenshtajn, L. 1988. Izbrani suchinenija, Sofija: Nauka i izkustvo

Cole, M, Griffin P. 1980. Cultural Amplifiers Reconsidered. In: David R. Olson Social Foundations of Language and Thought, New York, W. W. Norton And Company

Giere, R. 2004. Theproblem of agency in scientific distributed cognitive systems. In: Journal of Cognition and Culture, 4(3-4)

Greco, J.1999. Agent Reliabilism. In: Philosophical Perspectives 13, Epistemology.

Greco, J. 2010. Achieving Knowledge: A Virtue-Theoretic Account of Epistemic Normativity. Cambridge University Press.

Hutchins, E. 1995. CognitionintheWild. Cambridge: MIT Press.

Hutchins, E. 2001. Distributed cognition,Retrieved September 13th, 2009 from http://files.meetup.com/410989/DistributedCognition.pdf.

 

List, C., Pettit, P. 2006.Group Agency and Supervenience.In: Southern Journal of Philosophy (Spindel Conference 2005).

Newell, A.1989.Rosembloom, P.,Liard, J. Symbolic architectures for cognition. In: Foundations of cognitive science, MIT Press Cambridge.

Palermos, O. 2016.Dynamic of Group Cognition. In: Mind And Machine, 26.
Palermos,S.,  Pritchard, D.  2016. Thedistribution of epistemicagency. In: Reider, Patrick J. ed. SocialEpistemology and Epistemic Agency Decentralizing Epistemic Agency, Collective Studies in Knowledge and Society, Rowman & Littlefield.

Rumelhart, D.1986.Mclelland, J. Parallel distributed processing: explorations in the microstructure of cognition.

Wegner, D. M.1986. Theories of group behavior. New York: Springer-Verlag.