Ce qui rend les gens pensent que les réseaux neuronaux ont plus de puissance de calcul que les modèles existants?

Question

J'ai lu dans Wikipedia que des fonctions de réseau de neurones défini sur un champ de nombres réels / rationnels arbitraires (ainsi que des schémas algorithmiques et les spéculatifs modèles de `transrecursive ») ont plus de puissance de calcul que les ordinateurs que nous utilisons aujourd'hui. Bien sûr, il est une page de wikipedia russe (ru.wikipedia.org) et peut être pas correctement prouvé, mais ce n'est pas la seule source de ces rumeurs ..

Maintenant, la chose que je ne comprends vraiment pas est: Comment une machine à chaîne de réécriture (NNs sont exactement machines à réécrire la chaîne comme les machines de Turing sont, que le langage de programmation est différente) être plus puissant qu'un U universellement capable -machine?

Oui, l'instrument descriptif est vraiment différent, mais le fait est que toute fonction de cette classe peut être (facilement ou non) tourné pour être une machine de Turing juridique. Ai-je tort? Est-ce que je manque quelque chose d'important?

Quelle est la cause des gens dire? Je sais que le fenomenum de indécidabilité est aujourd'hui largement acceptée (mais pas toujours prouvé selon ce que j'ai lu), mais je ne vois pas vraiment une moindre chance de NNS être en mesure de résoudre ce problème particulier.

Add-in: Not consistently proven according to what I've read - Je voulais dire que vous pouvez jeter un oeil à papiers A. Zenkin (russe mathématicien) après la mi-90 s où il postule de façon persuasive la fausseté des concepts de G. Cantor, y compris des ensembles transfinis, ensembles, méthode de indénombrables diagonalisation (méthode utilisée dans la preuve d'indécidabilité par Turing) et peut-être d'autres. Même les théorèmes de incomplétude de Gödel ont fait leurs preuves dans le droit chemin en seulement 21-e siècle .. C'est tout juste pour brancher le travail de Zenkin à la cause de poste, je ne sais pas combien répandue que la connaissance est dans la communauté CS alors pardonnez-moi si cela avait l'air stupide.

Merci!

Answer 1

Toute personne qui « prouve » cette méthode diagonale de Cantor ne fonctionne pas prouve seulement leur propre incompétence. Cf. Wilfred Hodges Un éditeur rappelle des papiers sans espoir pour une explication étonnamment sympathique de ce genre de chose va mal avec ces tentatives.

Vous pouvez fournir des descriptions spéculatives des réseaux de neurones hyper-Turing, comme vous pouvez fournir des descriptions spéculatives d'autres types d'ordinateurs hyper-Turing: il n'y a rien incohérent dans l'idée que hypercalcul est possible, et les descriptions spéculatives de hypercomputers mécaniques ont été où le fait hypercomputer est prévu d'avoir des gravures infiniment fines qui encodent un oracle pour la machine Enrayer: l'existence d'une telle machine est compatible avec la mécanique newtonienne, mais pas la mécanique quantique. Au contraire, la thèse Church-Turing dit qu'ils ne peuvent pas être construits, et il y a deux raisons de croire la thèse Church-Turing est correcte:

1. Pas de ces machines n'a jamais été construit; et
2. Il y a du travail été fait relier les modèles de la physique des modèles de calcul, retour au travail au début des années 1970 par Robin Gandy, avec des travaux récents par des gens comme David Deutsch (par exemple, Machines, logique et physique quantique et John Tucker (par exemple, par des expériences avec Computations cinématiques ) qui soutient que la physique ne supporte pas hypercalcul.

Le point principal est que la vérité de la thèse Eglise Turing est un fait empirique, et non un fait mathématique. Il est celui que nous pouvons avoir confiance est vrai, mais pas une certitude.

Answer 2

D'après ce que peu de recherche, je l'ai fait, la plupart de ces revendications des systèmes trans-Turing, ou de l'incorrection de la preuve de diagonalisation de Cantor, etc. sont, dirons-nous, dans les milieux mathématiques légitimes « controversés ». Des mots tels que sont jetés autour souvent « manivelle ».

De toute évidence, la forte Thèse de Church reste non prouvée, mais comme vous l'avez dit il n'y a vraiment aucune raison de croire que les réseaux de neurones artificiels constituent des capacités de calcul au-delà de la récursivité générale / UTMs / calcul lambda / etc.

Answer 3

Du point de vue théorique, je pense que vous avez absolument raison - les réseaux de neurones fournissent très peu de ce qui est nouveau ou différent

.

D'un point de vue pratique, les réseaux de neurones sont simplement un moyen de solutions de coulée dans une forme où l'exécution parallèle est naturel et facile, alors que les machines de Turing sont de nature séquentielle, et l'exécution de leurs séquences en parallèle est relativement difficile. En fait, la plupart de ce qui a été fait dans le développement du processeur au cours des dernières décennies a essentiellement été de trouver les moyens d'exécuter du code en parallèle tout en maintenant l'illusion qu'il est l'exécution en séquence. beaucoup du matériel dans une CPU moderne est consacrée à maintenir cette illusion, et le degré auquel l'exécution en parallèle est devenu explicite est la plupart du temps un aveu que le maintien de l'illusion est devenu prohibitif.

Answer 4

Du point de vue d'un profane, je vois que

• NNs peut être plus efficace à résoudre certains problèmes types qu'une machine de Turing, mais ils ne sont pas compuationally plus puissant.
• Même si les réseaux neuronaux étaient prouvablement plus puissants que les mémoires de traduction, l'exécution sur le matériel actuel les rendrait moins puissants, puisque le matériel actuel est seulement une apporximation d'un TM et ne peut exécuter des problèmes calculables par un TM borné.

Answer 5

Vous pouvez être intéressé par S. Franklin et M. Garzón, Neural calculabilité. Il y a un Aperçu sur Google . Il traite de la puissance de calcul des réseaux de neurones et indique également que la rumeur veut que les réseaux de neurones sont strictement plus puissants que les machines de Turing.