Kauzálisan integrált információ alkalmazása sztochasztikus becslésben, egymástól eltérő nagy nyelvi modellek hálózatában

Application of causally integrated information in stochastic prediction, across a network of distinct large language models

Abstract

from cognitive brain research. This theory quantifies the integrated cause-effect relationships between the nodes of a stochastic network. We calculate this informational quantity within a Markov chain prediction, which is trained on a network of large language models. We hypothesize that this information can be utilized to optimize the predictions of the Markov chain, which would improve the collective decision-making ability of the large language models. 

Kivonat

Dolgozatunkban tárgyalt alkalmazási kiindulás a kognitív agykutatásból származó integrált információ elmélet egy lehetséges felhasználását tárgyalja. Ez az elmélet kvantifikálja a sztochasztikus hálózat csomópontjai közötti integrált ok-okozati hatásokat. Ezt az információs mennyiséget számoljuk egy Markov-lánc becslőben, amelyet nagy nyelvi modellek hálózatában tanítunk. Feltételezésünk szerint ez az információ felhasználható a Markov-lánc predikció optimizálására, amely javítaná a nyelvi modellek együttes döntéshozási képességét.