Connectionist extension of irreducible computation model (part 1)
https://doi.org/10.17726/philIT.2016.11.1.004.27
Abstract
We analyzed the modern variants of connectionist systems. We singled out the five main variants: cellular automata, neural networks, cellular nonlinear network, computing clusters and Grid. The connectionism is considered as a synthesis of computing parallelism and spatially distributed system. Its description is based on Rummelhart principles. Computability similarities are indicated at least at the application level, i. e. at the level of computational methods in connectionist systems. Nontraditional computing, in particular, within the connectionist systems, requires an expansion of the classical von Neumann computing model, first of all the recognition of its nonabsoluteness. The necessity of transition to higher level of abstraction and elaboration of the term “computation model” are postulated. For the first time the issue of irreducible computation model is raised and its set-theoretic formalization is given. This one assumes five basic sets and five basic relations.
About the Author
I. V. Matyushkin
Institute of Design Problems in Microelectronics RAS
Russian Federation
Russian Federation
References
1. Коуги П. Архитектура конвейерных ЭВМ. М.: Радио и связь, 1985. - 360 с
2. Таненбаум Э., ван Стеен М. Распределенные системы. Принципы и парадигмы. СПб.: Питер, 2003. - 878 с
3. Medler D. A Brief History of Connectionism // Neural Computing Surveys. 1998. No. 1(2). - P. 18-72.
4. Янковская Е. Гетерархия как нередукционистская модель когнитивной системы // Конференция «Ломоносов-2013». http://lomonosov-msu.ru/ archive/Lomonosov_2013 /2233/ 22025_933c.pdf.
5. Rumelhart D., McClelland J., and the PDP Research Group, editors. Parallel Distributed Processing, volume 1: Foundations. MIT Press, Cambridge, MA, 1986.
6. Traversa F.L., Ramella Ch., Bonani F., Di Ventra M. Memcomputing NP-complete problems in polynomial time using polynomial resources and collective states // Computer Science. 2015. - P. 1-8.
7. Traversa F., Di Ventra M. Universal Memcomputing Machines in IEEE // Transactions on Neural Networks and Learning Systems. 2015. Vol. 26, No. 11. - P. 2702-2715.
8. Туманов В. Основы проектирования реляционных баз данных - Интернет-университет информационных знаний, Бином. Лаборатория знаний, 2011. - 424 с. (
9. Катленд Н. Вычислимость. Введение в теорию рекурсивных функций. М.: Издательство «Мир», 1983. - 256 с
10. Burks A., Goldstine H., von Neumann J. Preliminary discussion of the logical design of an electronic computing instrument // The Origins of Digital Computers: Selected Papers, Brian Randell (ed.) Series: Texts and Monographs in Computer Science, Springer Berlin Heidelberg, 1982. - P. 399-413 (original text was published in 1946).
11. Черняк Л. Архитектура фон Неймана как историческая случайность // Открытые системы. СУБД. 2008. № 6. - С. 76-79.
12. Непейвода Н. Стили и методы программирования (Электронная книга), 2005. http://www.intuit.ru/goods_store/ebooks/8182
13. Backus J. Can programming be liberated from the von Neumann style?: a functional style and its algebra of programs // Commun. ACM 21, 1978. No. 8. - P. 613-641
14. Гергель В., Стронгин Р. Основы параллельных вычислений для многопроцессорных вычислительных систем: учебное пособие. Нижний Новгород: Изд-во ННГУ им. Н.И. Лобачевского, 2003. - 184 с
15. Климов А.В., Левченко Н.Н., Окунев А.С. Преимущества потоковой модели вычислений в условиях неоднородных сетей // Информационные технологии и вычислительные системы. 2012. № 2. С. 36-45
16. Hewitt C., Bishop P., Steiger R. A universal modular ACTOR formalism for artificial intelligence // In Proceedings of the 3rd international joint conference on Artificial intelligence (IJCAI’73). Morgan Kaufmann Publishers Inc., San Francisco, CA, USA, 1973. - P. 235-245.
17. Стефанова Т. Отбор содержания обучения неклассическим вычислительным моделям // Известия РГПУ им. А.И. Герцена. 2008. № 58. - C. 440-451.
18. Анисов А. Классическая вычислимость и признаки индетерминизма // Логические исследования. 2007. № 14. - С. 5-26
19. Горбунова Е. Кинетическая модель мелкозернистого параллелизма: дис. … канд. физико-матем. наук. Красноярск, 2001
20. Savage J. VLSI Models of Computation // in e-book “Models of Computation: Exploring the Power of Computing”, 2008. - P. 575-603.
21. Trinder P., Cole M., Hammond K., Loidl H.-W., Michaelson G. Resource Analyses for Parallel and Distributed Coordination // Concurrency and Computation: Practice and Experience. 2013. No. 25. - P. 309-348.
22. Hoffmann J., Shao Zh. Automatic Static Cost Analysis for Parallel Programs // Proceedings of the 24th European Symposium on Programming (ESOP’15) - Automatic Static Cost Analysis for Parallel Programs. http:// www.cs.cmu.edu/~janh/papers/parallelcost2014.pdf.
23. Stempkovsky A.L., Vlasov P.A., Kozin G.V. Algorithmic Environment for VLSI Design on Cellular Automata // Proceedings of a Joint Symposium : Information Processing and Software, Systems Design Automation, Academy of Sciences of the USSR, Siemens AG, FRG, Moscow, June 5/6, 1990, Springer-Verlag. P. 308-312
Review
For citations:
Matyushkin I.V. Connectionist extension of irreducible computation model (part 1). Philosophical Problems of IT & Cyberspace (PhilIT&C). 2016;(1):103-120. (In Russ.) https://doi.org/10.17726/philIT.2016.11.1.004.27
Views:
144
Email this article 