Neumann hiányzó második tervezete (amit tartalmaznia kellene)
von Neumann's missing ”Second Draft”: what it should contain
Keywords:
modern computing paradigm, performance limitation, efficiency, parallelized computing, super-computing, high-performance computing, von Neumann architecture, /, modern számítási elmélet, teljesítőképesség korlát, párhuzamosított számítás, nagy teljesítő-képességű számítások, Neumann-architektúraAbstract
Computing science is based on a computing paradigm that is not valid anymore for today's technology. Von Neumann's model is perfect, but now it is used outside of its range of validity. The paper introduces a quantitative merit for dispersion, which is vital for computing performance and energy consumption, and demonstrates how its value increased. Dispersion limits the utility of new materials/effects/architectures if the related transfer time cannot be proportionally mitigated.
Kivonat
A számítástechnika olyan számítási paradigmán alapul, amely a mai technológia esetében már nem érvényes. Bár a Neumann-modell tökéletes, alkalmazása jelenleg már túllép annak érvényességi tartományán. A tanulmány mennyiségi mérőszámot vezet be – amely kulcsfontosságú a számítási teljesítmény és az energiafogyasztás szempontjából –, és bemutatja, hogyan növekedett annak értéke. A diszperzió korlátozza az új anyagok, architektúrák és fizikai jelenségek hasznosíthatóságát is.
References
[1] Neumann, J: First draft of a report on the EDVAC. IEEE Annals of the History of Computing, 15/4(1993)27-75, doi=10.1109/85.238389, https://archive.org/details/vnedvac/
[2] Markovic, D., Mizrahi, A., Querlioz, D., Grollier, J.: Physics for neuromorphic computing, Nature Reviews Physics, 2(2020),499–510, https://www.nature.com/articles/s42254-020-0208-2.pdf
[3] Mehonic, A., Kenyon, A. J.: Brain-inspired computing needs a master plan. Nature 604/7905 (2022)255-260. 10.1038/s41586-021-04362-w
[4] Schlansker, M.S., Rau, B.R.: EPIC: Explicitly Parallel Instruction Computing. Computer 33/2(2000)37-45.
[5] Végh, J., Berki, Á. J.: On the spatiotemporal behavior in biology-mimicking computing systems. Acta Biotheoretica 70/4(2022)26 https://link.springer.com/article/10.1007/s10441-022-09450-6
[6] Backus, J.: Can Programming Languages Be liberated from the von Neumann Style? A Functional Style and its Algebra of Programs. Communications of the ACM 21(1978)613-641
[7] Singh, J.P., Hennessy, J.L., Gupta, A.: Scaling Parallel Programs for Multiprocessors: Methodology and Examples. Computer 26/7(1993)42-50 10.1109/MC.1993.274941
[8] Végh, J.: Which scaling rule applies to Artificial Neural Networks. Neural Computing and Applications 33/1(2021) 16847–16864. 10.1007/s00521-021-06456-y http://link.springer.com/article/10.1007/s00521-021-06456-y
[9] Végh, J.: How Amdahl's Law limits performance of large artificial neural networks. Brain Informatics 6/4(2019)1-11 10.1186/s40708-019-0097-2
[10] Conklin, Alexander A., Kumar, Suhas: Solving the big computing problems in the twenty-first century. (2023)
https://www.nature.com/articles/s41928-023-00985-1.epdf.
[11] US National Research Council: The Future of Computing Performance: Game Over or Next Level? 2011 http://science.energy.gov/~/media/ascr/ascac/pdf/meetings/mar11/Yelick.pdf
