Newsgroup: it.scienza.fisica
Titolo: Newton vs. the machine

Qualcuno capisce se, come e perche' funziona? Sembra magia:
 
https://arxiv.org/abs/1910.07291
 

 
https://arxiv.org/abs/1910.07291
 
 
Lo studio da te riportato
usa un algoritmo di apprendimento
profondo, una tecnica all'interno
dell'apprendimento automatico che
permette di essere usata
anche su macchine
per nulla potenti.
In questo caso apprende
le caratteristiche di
un moto autonomo di tre corpi
diciamo per gradi di avanzamento.
Funziona perchè impara dai
suoi errori, come del resto
fa il metodo scientifico.
Se funziona? Nei limiti
dell'apprendimento di una
macchina che non è
mai intenzionale.
 
ciao
Massimo

 fa il metodo scientifico.
 
 
Questa risposta e' per la mia curiosita' insufficiente. Nota che sono sufficienti variazioni piccolissime delle condizioni iniziali per provocare grandi variazioni del moto. Riscrivi la mia domanda quindi cosi': come fa l'algoritmo ad imparare cosi' tanto? 
 

 Questa risposta e' per la mia curiosita' insufficiente. Nota che sono sufficienti variazioni piccolissime delle condizioni iniziali per provocare grandi variazioni del moto. Riscrivi la mia domanda quindi cosi': come fa l'algoritmo ad imparare cosi' tanto?
 
Io credo che la risposta
sia in Appendice A
 
https://www.groundai.com/project/newton-vs-the-machine-solving-the-chaotic-three-body-problem-using-deep-neural-networks/1
 
 
qualcosa di più
lo trovi qui
 
https://link.springer.com/article/10.1186/s40668-014-0005-3
 
 
ciao
Massimo


Puoi entrare nel dettaglio? Dove e' la risposta alla domanda che ho 
fatto? A prima vista i link che mi hai dato (Appendice A dell'articolo 
sull'applicazione delle reti neurali e articolo sulla validita' 
statistica dei metodi non "convergiuti") si riferisccono ad altri 
aspetti della questione.
 
Posso scrivere la mia domanda in un altro modo ancora: come e' possibile 
sapere cosa succede nel moto dei tre corpi in una maniera apparentemente 
finissima (dipendenza sensibile dalle condizioni iniziali) imparando 
cosi' poco come sembra?

 cosi' poco come sembra?
 
A me 10,000 simulazioni non sembrano poi così poche!
Con questo non voglio dire che io sia scettico sul risultato: mi sembra 
che se uno riesce in ogni caso a trovare un modo per ottenere delle 
soluzioni numeriche che hanno senso in un problema complesso e non 
risolubile analiticamente, chapeau!
 
Mi aspetto che, appena lo sapranno, il loro sistema verrà sperimentato 
dai centri meteorologici nelle previsioni di ensemble, specialmente se 
riescono a diminuire in maniera rilevante il numero dei membri.
 
Mi ha incuriosito molto il fatto che usino l'algoritmo Bulirsch-Stoer; 
lo usavo circa 50 anni fa per integrare numericamente sistemi di 
equazioni differenziali "stiff" ed era realmente una grande invenzione!
 
Daniele Fuà

 
 
 
Ti rispondo subito.
 
 
 
10000 mi sembra piccolo perche' mi immagino che cambiando le condizioni iniziali di (indovino) 10^-8 (10^-8 ... non so cosa! Facciamo finta che sia 10^-8 relativo ;-) ) il risultato sia radicalmente diverso. Quindi mi appare che lo spazio dei possibili eventi da prevedere sia costituito da 10^(potenza molto grande che non so stimare) punti.
 
Non so stimare la potenza perche' (immagino) le regioni in cui c'e' la dipendenza sensibile dalle condizioni iniziali non riempiono tutto lo spazio.
 
Un'altra possibilita' e' che esistano dei pattern di cui noi non ci accorgiamo ma che la rete neurale individua.


Mi spiace ma ci stiamo addentrando in cose che non conosco.  E' vero che 
il numero di membri necessari dell'ensemble non ha nessun senso in 
assoluto ma dipende da molti parametri, non ultimo il tempo totale di 
integrazione.
E' anche vero però che, se uno è "furbo" come mi aspetto che la rete 
neurale sia, coglie effettivamente quelli che chiami pattern e che 
permettono - probabilmente - di fare delle "guess" migliori in un 
processo iterativo.
 
Tanto per fare un esempio visto che ho citato quello che facevo molti 
anni fa: oltre la Bulisch-Stoer, utilizzavo il vecchissimo metodo 
Raphson-Newton a più dimensioni per trovare iterativamente gli zeri di 
un problema agli autovalori; se quella volta avessi avuto le reti 
neurali FORSE avrei risparmiato parecchio tempo di calcolo.
 
Fine del mio contributo!
 
Daniele Fuà
 

 grande che non so stimare) punti.
 
Stessi tuoi dubbi. Anche a me 10000 punti iniziali sembrano non 
solo pochi ma piuttosto niente. Ma a differenza di te non avevo 
pensato che la rete potrebbe trovare associazioni che non si 
vedono.
 
Altro problema collegato al precedente: la procedura di 
integrazione è garantito che funzionerà e se ne possono tenere 
sotto controllo gli errori. Ma se si esce dallo spazio in cui 
la rete dà risultati attendibili senza potersene accorgere, tu 
ti fideresti a usare un simile sistema per determinare l'orbita 
di una sonda magari come gli attuali Voyager che si vorrebbero 
affidabili per 40 anni? E' vero che il problema non è lo stesso 
perchè c'è la retroazione da terra però...
 
Siete sempre tutti fantastici :)))))))))))))))).........

E' evidente che ne sapete 100 volte più di me su tutto l'argomento,
In particolare sulle ANN.
Io so a malapena che cos'è una rete neurale, non ho mai neppure
pensato di usarle, e ho visto che senza di ciò non avrei capito una
parola dell'articolo.
 
Quindi mi sono soffermato sull'unico pezzetto dove sono suff.
competente, e mi ha lasciato diversi dubbi.
Mi riferisco alla pag. 2, da "We restricted" a "follows from symmmtry."
 
Intanto ho trovato buffo che *dopo aver parlato di come specificano le
cond. iniziali*, aggiungano
"In addition, we adopt dimensionless units in which G = 1 (Heggie &
Mathieu 1986)."
E per un'assoluta banalità come questa ci voleva pure una ref.
intitolata
"The Use of Supercomputers in Stellar Dynamics."
? Mah...
 
Tornando a pag. 2, non ho afferrato l'affermazione che lo spazio delle
fasi è 3D.
Mi sorge il sospetto (ma qui tornano in ballo le reti neurali) che
alla rete non venga detto niente che ha a che fare con le leggi di
Newton, ma solo le *posizioni* (non le velocità) dei pianeti. E per di
più a meno di una rotazione (x1 sta sempre sull'asse x).
Ho capito bene?
 
Questo ha anche a che fare con quanto si legge a pag. 4 destra, circa
la consevazione dell'energia.
Come fanno a calcolare l'energia dalle sole posizioni?
Va bene per le cond. iniziali, in cui le velocità sono nulle.
Ma poi?
 
Insomma è chiaro che non ho capito una mazza :-)
 
D'altra parte ai miei tempi MNRAS era una rivista seria, quindi
dev'essere colpa mia.
 
-- 
Elio Fabri

 In particolare sulle ANN.
 
Io so pochissimo sulle ANN :-)
 
Ho ragionato in maniera astratta, pensando che il ragionamento potrebbe 
essere valido indipendentemente dai dettagli.
 
Il ragionamento astratto e': la rete neurale predice un output come 
funzione di un input basandosi su degli esempi. Ma per un sistema 
caotico, come fanno gli esempi ad essere sufficientemente dettagliati?

 
 
Dipende da quanto tempo impiega la macchina per imparare.
 
Ciao
Massimo
 
-- 
 
................... il futuro e' adesso
 
 
----Android NewsGroup Reader----
http://usenet.sinaapp.com/
 

 
 
Questa e' la mia domanda iniziale ;-)
 

 fasi è 3D.
 >
 
Posso sbagliarmi ma sospetto che abbiano messo una condizione che 
restringe lo spazio delle fasi: il centro di massa e' in (0,0) AND una 
particella e' in (1,0). Infatti questo stabilisce la distanza fra una 
delle particelle e il centro di massa; ma forse ci si puo' ricondurre 
sempre a questo problema con una scelta dell'unita' di misura dello 
spazio e questo e' a sua volta compatibile con G = 1 scegliendo l'unita' 
di misura del tempo.

 
https://arxiv.org/abs/1910.07291
 
 
Ho inoltrato l'articolo ad un amico che sta facendo (per il dottorato) ricerche 
nel campo informatico delle reti neurali.
Gli ho manifestato tutta la mia sorpresa e curiosita' per l'uso dell'IA in fisica:
allego la risposta (interlocutoria) che ho ottenuto. 
 
---------------------------------------------------------------------------------
In realtà negli ultimi tempi le reti neurali sono state applicate in
molti campi della fisica: io stesso ho una piccola linea di ricerca che
riguarda la rilevazione di anomalie su grafici in arrivo dal satellite
Gaia (tempeste solari, malfunzionamenti...), e mi diceva Nurix che a
Trieste più di una persona lavora sull'argomento.
In più mi sembra di aver capito che il problema dei tre corpi sia
tipicamente risolto in modo approssimato. Le reti neurali sono per
definizione uno strumento non esatto, per cui ha perfettamente senso
usarle, e a quanto pare i lunghi tempi di apprendimento ripagano molto
in termini di velocità di esecuzione!
C'è da dire che esisterebbero architetture più sofisticate per gestire
dati che cambiano nel tempo, ma il risultato è stato comunque raggiunto
tranquillamente con la rete "classica" che viene usata nell'articolo.
---------------------------------------------------------------------------------
 
-- 
    Elio Proietti
    Valgioie (TO)

 in termini di velocità di esecuzione!
 
Fammi capire bene. 
Il problema generalizzato degli N corpi e' ovviamente numerico (esistono 
soluzioni in forma chiusa, cioe' esprimibili da un numero finito di 
operazioni di funzioni "elementari" - definizione un po' ambigua - per i 
3 corpi  solo in situazioni particolari, come 2 di questi fissi).
Ci sono tanti modi per risolverli, tipicamente la complessita' e' di 
O(N log N) oppure O(N^2), al piu'.
 
Mentre il training completo di una rete neurale con n neuroni compreso di 
backpropagation e' di
O(n^5).
Mi aspetto che n ed N scalino linearmente, per lo meno per piccoli 
valori, ad esempio 3.
 
Come fa a convenire?
 
 
 

 tipicamente risolto in modo approssimato.
 
 
Mi pare che nel lavoro di Breen e altri si usi un integratore tale che la soluzione sia corretta nonostante la dipendenza sensibile dai dati iniziali (questo: 
https://link.springer.com/article/10.1186/s40668-014-0005-3
, che ha postato anche Massimo 456b).
 
Questo risponde anche al post di MM: il costo computazionale per il calcolo di una singola traiettoria per tre particelle puo' essere talmente alto che la complessita' O(N log N) non e' significativa.

 
https://arxiv.org/abs/1910.07291
 
 
 
Ho fatto la stessa domanda qualche giorno fa su spr:
 
https://groups.google.com/d/msg/sci.physics.research/cCYomigoaXU/gbFqR2dSAQAJ
 
 
C'e' una risposta con un'idea forse buona, e un articolo suggerito dal 
moderatore.