Ποια είναι η διαφορά μεταξύ νευρωνικών δικτύων και στατιστικών; Νευρωνικά δίκτυα STATISTICA Νευρωνικά Δίκτυα: Μεθοδολογία και τεχνολογίες σύγχρονης ανάλυσης δεδομένων Πακέτο στατιστικών νευρωνικών δικτύων

Το STATISTICA Automated Neural Networks είναι το μόνο προϊόν λογισμικού νευρωνικών δικτύων στον κόσμο που είναι πλήρως μεταφρασμένο στα ρωσικά!

Οι μεθοδολογίες νευρωνικών δικτύων γίνονται όλο και πιο διαδεδομένες σε διάφορους τομείς, από τη θεμελιώδη έρευνα έως τις πρακτικές εφαρμογές της ανάλυσης δεδομένων, τις επιχειρήσεις, τη βιομηχανία κ.λπ.

είναι ένα από τα πιο προηγμένα και πιο αποτελεσματικά προϊόντα νευρωνικών δικτύων στην αγορά. Προσφέρει πολλά μοναδικά οφέλη και πλούσια χαρακτηριστικά. Για παράδειγμα, οι μοναδικές δυνατότητες του εργαλείου αυτόματης αναζήτησης νευρωνικών δικτύων, , επιτρέπουν στο σύστημα να χρησιμοποιείται όχι μόνο από ειδικούς στα νευρωνικά δίκτυα, αλλά και από αρχάριους στον τομέα των υπολογιστών νευρωνικών δικτύων.

Ποια είναι τα πλεονεκτήματα της χρήσης ?

Προ- και μετεπεξεργασία, συμπεριλαμβανομένης της επιλογής δεδομένων, της ονομαστικής κωδικοποίησης, της κλιμάκωσης, της κανονικοποίησης, της αφαίρεσης δεδομένων που λείπουν με ερμηνεία για προβλήματα ταξινόμησης, παλινδρόμησης και χρονοσειρών.

Εξαιρετική ευκολία χρήσης συν ασυναγώνιστη αναλυτική ισχύς. για παράδειγμα, ένα μοναδικό εργαλείο αυτόματης αναζήτησης νευρωνικών δικτύων Αυτοματοποιημένο νευρωνικό δίκτυο (ANN)θα καθοδηγήσει τον χρήστη σε όλα τα στάδια της δημιουργίας διαφόρων νευρωνικών δικτύων και θα επιλέξει το καλύτερο (διαφορετικά, αυτή η εργασία επιλύεται μέσω μιας μακράς διαδικασίας «δοκιμών και σφαλμάτων» και απαιτεί σοβαρή γνώση της θεωρίας).

Οι πιο σύγχρονοι, βελτιστοποιημένοι και ισχυροί αλγόριθμοι εκπαίδευσης δικτύου (συμπεριλαμβανομένων μεθόδων συζευγμένης κλίσης, αλγόριθμος Levenberg-Marquardt, αλγόριθμος BFGS, Kohonen). πλήρη έλεγχο όλων των παραμέτρων που επηρεάζουν την ποιότητα του δικτύου, όπως οι λειτουργίες ενεργοποίησης και σφάλματος, η πολυπλοκότητα του δικτύου.

Υποστήριξη για σύνολα νευρωνικών δικτύων και αρχιτεκτονικές νευρωνικών δικτύων σχεδόν απεριόριστου μεγέθους.

Πλούσιες γραφικές και στατιστικές δυνατότητες που διευκολύνουν τη διαδραστική διερευνητική ανάλυση.

Πλήρης ενοποίηση με το σύστημα ΣΤΑΤΙΣΤΙΚΗ; όλα τα αποτελέσματα, τα γραφήματα, οι αναφορές κ.λπ. μπορούν να τροποποιηθούν περαιτέρω χρησιμοποιώντας ισχυρά γραφικά και αναλυτικά εργαλεία ΣΤΑΤΙΣΤΙΚΗ(για παράδειγμα, για ανάλυση προβλεπόμενων υπολειμμάτων, δημιουργία λεπτομερούς αναφοράς κ.λπ.)

Απρόσκοπτη ενσωμάτωση με ισχυρά αυτοματοποιημένα εργαλεία ΣΤΑΤΙΣΤΙΚΗ; καταγραφή πλήρους μακροεντολών για οποιαδήποτε ανάλυση. δημιουργώντας τις δικές σας αναλύσεις και εφαρμογές νευρωνικών δικτύων χρησιμοποιώντας ΣΤΑΤΙΣΤΙΚΗΠρόκληση της Visual Basic STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυααπό οποιαδήποτε εφαρμογή που υποστηρίζει τεχνολογία COM (για παράδειγμα, αυτόματη ανάλυση νευρωνικών δικτύων σε υπολογιστικό φύλλο MS Excel ή συνδυασμός πολλών προσαρμοσμένων εφαρμογών γραμμένων σε C, C++, C#, Java κ.λπ.).

• Μια επιλογή από τις πιο δημοφιλείς αρχιτεκτονικές δικτύου, συμπεριλαμβανομένων των Perceptrons Multilayer, των Radial Basis Functions και των Self-Organizing Feature Maps.
• Διαθέσιμο εργαλείο Αυτόματη αναζήτηση δικτύου, το οποίο σας επιτρέπει να δημιουργείτε αυτόματα διάφορες αρχιτεκτονικές νευρωνικών δικτύων και να ρυθμίζετε την πολυπλοκότητά τους.
• Διατήρηση των καλύτερων νευρωνικών δικτύων.

Υποστήριξη διαφόρων τύπων στατιστικής ανάλυσης και κατασκευής μοντέλων πρόβλεψης, όπως παλινδρόμηση, ταξινόμηση, χρονοσειρές με συνεχή και κατηγορική εξαρτημένη μεταβλητή, ανάλυση συστάδων για μείωση διαστάσεων και οπτικοποίηση.

Υποστηρίζει φόρτωση και ανάλυση πολλαπλών μοντέλων.

• Προαιρετική δυνατότητα δημιουργίας πηγαίου κώδικα σε C, C++, C#, Java, PMML (Predictive Model Markup Language), ο οποίος μπορεί εύκολα να ενσωματωθεί σε εξωτερικό περιβάλλον για να δημιουργήσετε τις δικές σας εφαρμογές.

Γεννήτρια κώδικα

Γεννήτρια κώδικα STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυαμπορεί να δημιουργήσει κώδικα προγράμματος συστήματος πηγής για μοντέλα νευρωνικών δικτύων σε C, Java και PMML (Predictive Model Markup Language). Η δημιουργία κώδικα είναι μια πρόσθετη εφαρμογή στο σύστημα STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα, το οποίο επιτρέπει στους χρήστες, με βάση την ανάλυση νευρωνικών δικτύων, να δημιουργήσουν ένα αρχείο C ή Java με τον πηγαίο κώδικα των μοντέλων και να το ενσωματώσουν σε ανεξάρτητες εξωτερικές εφαρμογές.

Απαιτείται η δημιουργία κώδικα STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα.

Δημιουργεί μια έκδοση του πηγαίου κώδικα του νευρωνικού δικτύου (ως αρχείο σε C, C++, C# ή Java).

Το αρχείο κώδικα C ή Java μπορεί στη συνέχεια να ενσωματωθεί σε εξωτερικά προγράμματα.

ΣΤΑΤΙΣΤΙΚΗΑυτοματοποιημένο Νευρωνικά δίκτυαστους υπολογιστές νευρωνικών δικτύων

Η χρήση των νευρωνικών δικτύων περιλαμβάνει πολύ περισσότερα από την απλή επεξεργασία δεδομένων χρησιμοποιώντας μεθόδους νευρωνικών δικτύων.

STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)παρέχει μια ποικιλία λειτουργιών για εργασία με πολύ σύνθετες εργασίες, συμπεριλαμβανομένων όχι μόνο των πιο πρόσφατων Αρχιτεκτονικές Νευρωνικών ΔικτύωνΚαι Αλγόριθμοι εκμάθησης, αλλά και νέες προσεγγίσεις για την κατασκευή αρχιτεκτονικών νευρωνικών δικτύων με δυνατότητα απαρίθμησης διαφόρων συναρτήσεων ενεργοποίησης και σφάλματος, γεγονός που διευκολύνει την ερμηνεία των αποτελεσμάτων. Επιπλέον, οι προγραμματιστές λογισμικού και οι χρήστες που πειραματίζονται με τις ρυθμίσεις εφαρμογών θα εκτιμήσουν το γεγονός ότι μετά τη διεξαγωγή συγκεκριμένων πειραμάτων σε μια απλή και διαισθητική διεπαφή STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN), οι αναλύσεις νευρωνικών δικτύων μπορούν να συνδυαστούν σε μια προσαρμοσμένη εφαρμογή. Αυτό μπορεί να επιτευχθεί είτε χρησιμοποιώντας τη βιβλιοθήκη συναρτήσεων COM ΣΤΑΤΙΣΤΙΚΗ, το οποίο αντικατοπτρίζει πλήρως όλη τη λειτουργικότητα του προγράμματος ή χρησιμοποιώντας κώδικα σε C/C++, ο οποίος δημιουργείται από το πρόγραμμα και βοηθά στη λειτουργία ενός πλήρως εκπαιδευμένου νευρωνικού δικτύου.

Μονάδα μέτρησης STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυαπλήρως ενσωματωμένο στο σύστημα ΣΤΑΤΙΣΤΙΚΗΈτσι, είναι διαθέσιμη μια τεράστια ποικιλία εργαλείων για την επεξεργασία (προετοιμασία) δεδομένων για ανάλυση (μετασχηματισμοί, συνθήκες επιλογής παρατηρήσεων, εργαλεία ελέγχου δεδομένων κ.λπ.).

Όπως όλα τα τεστ ΣΤΑΤΙΣΤΙΚΗ, το πρόγραμμα μπορεί να "συνδεθεί" σε μια απομακρυσμένη βάση δεδομένων χρησιμοποιώντας εργαλεία επιτόπιας επεξεργασίας ή να συνδεθεί με ζωντανά δεδομένα, έτσι ώστε τα μοντέλα να εκπαιδεύονται ή να εκτελούνται (για παράδειγμα, για τον υπολογισμό προβλεπόμενων τιμών ή ταξινόμησης) αυτόματα κάθε φορά που αλλάζουν τα δεδομένα .

Κλιμάκωση δεδομένων και μετατροπή ονομαστικής αξίας

Πριν εισαχθούν δεδομένα στο δίκτυο, πρέπει να προετοιμαστούν με συγκεκριμένο τρόπο. Είναι εξίσου σημαντικό τα δεδομένα εξόδου να μπορούν να ερμηνεύονται σωστά. ΣΕ STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)είναι δυνατή η αυτόματη κλιμάκωση δεδομένων εισόδου και εξόδου. Οι μεταβλητές με ονομαστικές τιμές μπορούν επίσης να επανακωδικοποιηθούν αυτόματα (για παράδειγμα, Gender=(Male, Female)), συμπεριλαμβανομένης της μεθόδου κωδικοποίησης 1-of-N. STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)περιέχει επίσης εργαλεία για την εργασία με δεδομένα που λείπουν. Υπάρχουν εργαλεία προετοιμασίας και ερμηνείας δεδομένων ειδικά σχεδιασμένα για ανάλυση χρονοσειρών. Μια μεγάλη ποικιλία παρόμοιων εργαλείων εφαρμόζεται επίσης σε ΣΤΑΤΙΣΤΙΚΗ.

Σε προβλήματα ταξινόμησης, είναι δυνατό να οριστούν διαστήματα εμπιστοσύνης που STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)Στη συνέχεια χρησιμοποιείται για την ανάθεση παρατηρήσεων σε μια ή την άλλη τάξη. Σε συνδυασμό με ειδικό εφαρμοσμένο σε STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)η συνάρτηση ενεργοποίησης Softmax και οι συναρτήσεις σφάλματος διασταυρούμενης εντροπίας παρέχουν μια θεμελιώδη θεωρητική προσέγγιση πιθανοτήτων στα προβλήματα ταξινόμησης.

Επιλογή μοντέλου νευρωνικών δικτύων, σύνολα νευρωνικών δικτύων

Η ποικιλία των μοντέλων νευρωνικών δικτύων και οι πολλές παράμετροι που πρέπει να οριστούν (μεγέθη δικτύου, παράμετροι αλγορίθμων εκμάθησης κ.λπ.) μπορεί να μπερδέψουν ορισμένους χρήστες. Αλλά αυτός είναι ο λόγος που υπάρχει ένα εργαλείο αυτόματης αναζήτησης νευρωνικών δικτύων, , το οποίο μπορεί να αναζητήσει αυτόματα μια κατάλληλη αρχιτεκτονική δικτύου οποιασδήποτε πολυπλοκότητας, δείτε παρακάτω. Στο σύστημα STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)Όλοι οι κύριοι τύποι νευρωνικών δικτύων που χρησιμοποιούνται για την επίλυση πρακτικών προβλημάτων έχουν εφαρμοστεί, συμπεριλαμβανομένων:

πολυστρωματικά perceptrons (δίκτυα με άμεση μετάδοση σήματος).

δίκτυα που βασίζονται σε συναρτήσεις ακτινικής βάσης.

αυτοοργάνωση χαρτών Kohonen.

Οι παραπάνω αρχιτεκτονικές χρησιμοποιούνται σε προβλήματα παλινδρόμησης, ταξινόμησης, χρονοσειρών (με συνεχή ή κατηγορική εξαρτημένη μεταβλητή) και ομαδοποίησης.

Επιπλέον, στο σύστημα STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)εφαρμόστηκε Σύνολα δικτύου, που σχηματίστηκε από τυχαίους (αλλά σημαντικούς) συνδυασμούς των παραπάνω δικτύων. Αυτή η προσέγγιση είναι ιδιαίτερα χρήσιμη για θορυβώδη και χαμηλών διαστάσεων δεδομένα.

Στη συσκευασία STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)Πολλά εργαλεία είναι διαθέσιμα για να βοηθήσουν τον χρήστη να επιλέξει την κατάλληλη αρχιτεκτονική δικτύου. Τα στατιστικά και γραφικά εργαλεία του συστήματος περιλαμβάνουν ιστογράμματα, πίνακες και γραφήματα σφαλμάτων για ολόκληρο τον πληθυσμό και για μεμονωμένες παρατηρήσεις, τελικά δεδομένα για σωστή/λανθασμένη ταξινόμηση και όλα τα σημαντικά στατιστικά στοιχεία, για παράδειγμα, η επεξηγημένη αναλογία διακύμανσης, υπολογίζονται αυτόματα.

Για να οπτικοποιήσετε δεδομένα σε ένα πακέτο STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)Τα Scatterplots και οι επιφάνειες απόκρισης 3D υλοποιούνται για να βοηθήσουν τον χρήστη να κατανοήσει τη «συμπεριφορά» του δικτύου.

Φυσικά, μπορείτε να χρησιμοποιήσετε οποιαδήποτε πληροφορία ληφθεί από τις αναφερόμενες πηγές για περαιτέρω ανάλυση με άλλα μέσα. ΣΤΑΤΙΣΤΙΚΗ, καθώς και για μετέπειτα συμπερίληψη σε αναφορές ή για προσαρμογή.

STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)θυμάται αυτόματα την καλύτερη επιλογή δικτύου από αυτές που λάβατε κατά τον πειραματισμό με την εργασία και μπορείτε να ανατρέξετε σε αυτήν ανά πάσα στιγμή. Η χρησιμότητα του δικτύου και η προγνωστική του ικανότητα ελέγχονται αυτόματα σε ένα ειδικό σύνολο δοκιμών παρατηρήσεων, καθώς και με εκτίμηση του μεγέθους του δικτύου, της αποτελεσματικότητάς του και του κόστους λανθασμένης ταξινόμησης. Εφαρμόστηκε σε STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)Οι διαδικασίες αυτόματης διασταυρούμενης επικύρωσης και τακτοποίησης βάρους σάς επιτρέπουν να προσδιορίζετε γρήγορα εάν το δίκτυό σας είναι λιγότερο πολύπλοκο ή υπερβολικά πολύπλοκο για μια δεδομένη εργασία.

Για να βελτιώσετε την απόδοση στη συσκευασία STATISTICA Αυτοματοποιημένα Νευρωνικά ΔίκτυαΠαρουσιάζονται πολυάριθμες επιλογές διαμόρφωσης δικτύου. Έτσι, μπορείτε να καθορίσετε ένα επίπεδο δικτύου γραμμικής εξόδου σε προβλήματα παλινδρόμησης ή μια συνάρτηση ενεργοποίησης softmax σε προβλήματα πιθανολογικής εκτίμησης και ταξινόμησης. Το σύστημα εφαρμόζει επίσης συναρτήσεις σφάλματος διασταυρούμενης εντροπίας βασισμένες σε μοντέλα θεωρίας πληροφοριών και μια σειρά ειδικών συναρτήσεων ενεργοποίησης, συμπεριλαμβανομένων των συναρτήσεων Identical, Exponential, Hyperbolic, Logistic (σιγμοειδές) και Sine για κρυφούς και εξόδους νευρώνες.

Αυτοματοποιημένο νευρωνικό δίκτυο (αυτόματη αναζήτηση και επιλογή διαφόρων αρχιτεκτονικών νευρωνικών δικτύων)

Μέρος της συσκευασίας STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)είναι ένα εργαλείο αυτόματης αναζήτησης νευρωνικών δικτύων, Αυτοματοποιημένο νευρωνικό δίκτυο (ANN) - Αυτοματοποιημένη αναζήτηση δικτύου (ANS), το οποίο αξιολογεί πολλά νευρωνικά δίκτυα διαφορετικής αρχιτεκτονικής και πολυπλοκότητας και επιλέγει τα δίκτυα της καλύτερης αρχιτεκτονικής για μια δεδομένη εργασία.

Κατά τη δημιουργία ενός νευρωνικού δικτύου, αφιερώνεται σημαντικός χρόνος για την επιλογή των κατάλληλων μεταβλητών και τη βελτιστοποίηση της αρχιτεκτονικής του δικτύου χρησιμοποιώντας ευρετική αναζήτηση. STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)αναλαμβάνει αυτό το έργο και πραγματοποιεί αυτόματα μια ευρετική αναζήτηση για εσάς. Αυτή η διαδικασία λαμβάνει υπόψη τη διάσταση εισόδου, τον τύπο δικτύου, τις διαστάσεις δικτύου, τις λειτουργίες ενεργοποίησης, ακόμη και τις απαιτούμενες συναρτήσεις σφάλματος εξόδου.

Είναι ένα εξαιρετικά αποτελεσματικό εργαλείο όταν χρησιμοποιείτε πολύπλοκες τεχνικές, επιτρέποντάς σας να βρίσκετε αυτόματα την καλύτερη αρχιτεκτονική δικτύου. Αντί να ξοδεύετε ώρες καθισμένοι μπροστά στον υπολογιστή σας, αφήστε το σύστημα STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)κάνε αυτή τη δουλειά για σένα.

Η επιτυχία των πειραμάτων σας για την εύρεση του καλύτερου τύπου και αρχιτεκτονικής δικτύου εξαρτάται σημαντικά από την ποιότητα και την ταχύτητα των αλγορίθμων εκμάθησης δικτύου. Στο σύστημα STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)Έχουν εφαρμοστεί οι καλύτεροι αλγόριθμοι εκπαίδευσης μέχρι σήμερα.

Στο σύστημα STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)Έχουν εφαρμοστεί δύο γρήγοροι αλγόριθμοι δεύτερης τάξης - μέθοδοι συζευγμένης κλίσης και ο αλγόριθμος BFGS. Ο τελευταίος είναι ένας εξαιρετικά ισχυρός σύγχρονος μη γραμμικός αλγόριθμος βελτιστοποίησης και οι ειδικοί συνιστούν ανεπιφύλακτα τη χρήση του. Υπάρχει επίσης μια απλοποιημένη έκδοση του αλγόριθμου BFGS που απαιτεί λιγότερη μνήμη, η οποία χρησιμοποιείται από το σύστημα όταν οι δυνατότητες RAM του υπολογιστή είναι αρκετά περιορισμένες. Αυτοί οι αλγόριθμοι τείνουν να συγκλίνουν πιο γρήγορα και να παράγουν μια πιο ακριβή λύση από τους αλγόριθμους ακρίβειας πρώτης τάξης όπως το Gradient Descent.

Επαναληπτική διαδικασία εκπαίδευσης δικτύου στο σύστημα STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)συνοδεύεται από αυτόματη εμφάνιση του τρέχοντος σφάλματος εκπαίδευσης και του σφάλματος που υπολογίζεται ανεξάρτητα από το σετ δοκιμών και εμφανίζεται επίσης ένα γράφημα του συνολικού σφάλματος. Μπορείτε να διακόψετε την προπόνηση ανά πάσα στιγμή πατώντας απλά ένα κουμπί. Επιπλέον, είναι δυνατό να οριστούν συνθήκες διακοπής, υπό τις οποίες θα διακοπεί η εκπαίδευση. μια τέτοια συνθήκη μπορεί να είναι, για παράδειγμα, η επίτευξη ενός συγκεκριμένου επιπέδου σφάλματος ή μια σταθερή αύξηση του σφάλματος δοκιμής σε έναν δεδομένο αριθμό περασμάτων - "εποχές" (που υποδηλώνει τη λεγόμενη επανεκπαίδευση του δικτύου). Εάν συμβεί υπερβολική προσαρμογή, ο χρήστης δεν θα πρέπει να ενδιαφέρεται: STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)θυμάται αυτόματα μια παρουσία του καλύτερου δικτύου που αποκτήθηκε κατά τη διαδικασία εκπαίδευσης και αυτή η επιλογή δικτύου μπορεί πάντα να είναι προσβάσιμη κάνοντας κλικ στο αντίστοιχο κουμπί. Μετά την ολοκλήρωση της εκπαίδευσης δικτύου, μπορείτε να ελέγξετε την ποιότητα της εργασίας του σε ένα ξεχωριστό σετ δοκιμών.

Αφού εκπαιδευτεί το δίκτυο, πρέπει να ελέγξετε την ποιότητα της εργασίας του και να προσδιορίσετε τα χαρακτηριστικά του. Για το σκοπό αυτό στη συσκευασία STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)Υπάρχει ένα σύνολο στατιστικών και γραφικών εργαλείων επί της οθόνης.

Σε περίπτωση που καθορίζονται πολλά μοντέλα (δίκτυα και σύνολα), τότε (εάν είναι δυνατόν) STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)θα εμφανίσει συγκριτικά αποτελέσματα (για παράδειγμα, σχεδίαση καμπυλών απόκρισης πολλών μοντέλων σε ένα γράφημα ή παρουσίαση προβλέψεων πολλών μοντέλων σε έναν πίνακα). Αυτή η ιδιότητα είναι πολύ χρήσιμη για τη σύγκριση διαφορετικών μοντέλων που έχουν εκπαιδευτεί στο ίδιο σύνολο δεδομένων.

Όλα τα στατιστικά στοιχεία υπολογίζονται χωριστά για τα σετ εκπαίδευσης, επικύρωσης και δοκιμών ή σε οποιονδήποτε συνδυασμό αυτών, κατά την κρίση του χρήστη.

Τα ακόλουθα συνοπτικά στατιστικά υπολογίζονται αυτόματα: το ριζικό μέσο τετραγωνικό σφάλμα του δικτύου, ο λεγόμενος πίνακας σύγχυσης για προβλήματα ταξινόμησης (όπου συνοψίζονται όλες οι περιπτώσεις σωστής και λανθασμένης ταξινόμησης) και συσχετίσεις για προβλήματα παλινδρόμησης. Το δίκτυο Kohonen έχει ένα παράθυρο Τοπολογικού Χάρτη στο οποίο μπορείτε να παρατηρήσετε οπτικά τις ενεργοποιήσεις στοιχείων δικτύου.

Έτοιμες λύσεις (προσαρμοσμένες εφαρμογές με χρήση STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα)

Απλή και βολική διεπαφή συστήματος STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)σας επιτρέπει να δημιουργείτε γρήγορα εφαρμογές νευρωνικών δικτύων για να λύσετε τα προβλήματά σας.

Μπορεί να υπάρχει μια κατάσταση όπου είναι απαραίτητο να ενσωματωθούν αυτές οι λύσεις σε ένα υπάρχον σύστημα, για παράδειγμα, για να γίνουν μέρος ενός ευρύτερου υπολογιστικού περιβάλλοντος (αυτές μπορεί να είναι διαδικασίες που αναπτύσσονται χωριστά και ενσωματώνονται στο εταιρικό υπολογιστικό σύστημα).

Τα εκπαιδευμένα νευρωνικά δίκτυα μπορούν να εφαρμοστούν σε νέα σύνολα δεδομένων (για πρόβλεψη) με διάφορους τρόπους: Μπορείτε να αποθηκεύσετε τα εκπαιδευμένα δίκτυα και στη συνέχεια να τα εφαρμόσετε σε ένα νέο σύνολο δεδομένων (για πρόβλεψη, ταξινόμηση ή πρόβλεψη). Μπορείτε να χρησιμοποιήσετε μια γεννήτρια κώδικα για να δημιουργήσετε αυτόματα κώδικα προγράμματος σε C (C++, C#) ή Visual Basic και στη συνέχεια να τη χρησιμοποιήσετε για να προβλέψετε νέα δεδομένα σε οποιοδήποτε περιβάλλον προγραμματισμού Visual Basic ή C++ (C#), π.χ. να ενσωματώσετε ένα πλήρως εκπαιδευμένο νευρωνικό δίκτυο στο εφαρμογή. Εν κατακλείδι, όλη η λειτουργικότητα του συστήματος ΣΤΑΤΙΣΤΙΚΗ, συμπεριλαμβανομένου STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN), μπορεί να χρησιμοποιηθεί ως αντικείμενα COM (Component Object Model) σε άλλες εφαρμογές (για παράδειγμα, Java, MS Excel, C#, VB.NET, κ.λπ.). Για παράδειγμα, μπορείτε να εφαρμόσετε μια αυτοματοποιημένη ανάλυση που δημιουργήθηκε χρησιμοποιώντας STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)σε πίνακες MS Excel.

Κατάλογος αλγορίθμων εκμάθησης

Gradient Descent

Συζυγείς κλίσεις

Προπόνηση Kohonen

Μέθοδος K-Means για Δίκτυο Συναρτήσεων Ακτινικής Βάσης

Περιορισμοί μεγέθους δικτύου

Ένα νευρωνικό δίκτυο μπορεί να είναι σχεδόν οποιουδήποτε μεγέθους (δηλαδή, οι διαστάσεις του μπορούν να ληφθούν πολλές φορές μεγαλύτερες από ό,τι είναι πραγματικά απαραίτητο και λογικό). Για ένα δίκτυο πολυστρωματικών perceptrons, επιτρέπεται ένα κρυφό στρώμα νευρώνων. Στην πραγματικότητα, για οποιεσδήποτε πρακτικές εργασίες το πρόγραμμα περιορίζεται μόνο από τις δυνατότητες υλικού του υπολογιστή.

Ηλεκτρονικό Εγχειρίδιο

Ως μέρος του συστήματος STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN)υπάρχει ένα καλά εικονογραφημένο εγχειρίδιο που παρέχει μια πλήρη και ξεκάθαρη εισαγωγή στα νευρωνικά δίκτυα, καθώς και παραδείγματα. Ένα σύστημα λεπτομερούς βοήθειας με ευαισθησία στο πλαίσιο είναι διαθέσιμο από οποιοδήποτε παράθυρο διαλόγου.

Δημιουργία πηγαίου κώδικα

Η γεννήτρια πηγαίου κώδικα είναι ένα πρόσθετο προϊόν που επιτρέπει στους χρήστες να δημιουργούν εύκολα τις δικές τους εφαρμογές με βάση το σύστημα STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN). Αυτό το πρόσθετο προϊόν δημιουργεί τον πηγαίο κώδικα συστήματος του μοντέλου νευρωνικού δικτύου (ως αρχείο σε C, C++, C# ή Java), ο οποίος μπορεί να μεταγλωττιστεί ξεχωριστά και να ενσωματωθεί στο πρόγραμμά σας για δωρεάν διανομή. Αυτό το προϊόν έχει σχεδιαστεί ειδικά για προγραμματιστές εταιρικών συστημάτων, καθώς και για εκείνους τους χρήστες που πρέπει να μεταμορφώσουν εξαιρετικά βελτιστοποιημένες διαδικασίες που δημιουργούνται σε STATISTICA Αυτοματοποιημένα Νευρωνικά Δίκτυα (SANN), σε εξωτερικές εφαρμογές για την επίλυση πολύπλοκων αναλυτικών προβλημάτων. (Να σημειωθεί ότι για να λάβουν άδεια, οι χρήστες θα πρέπει να ενημερώσουν τους υπαλλήλους της sitessia για τη διανομή προγραμμάτων χρησιμοποιώντας τον παραγόμενο κώδικα).

Το R είναι ένα ελεύθερο περιβάλλον λογισμικού για στατιστικούς υπολογιστές και γραφικά.
Είναι ένα έργο GNU, παρόμοιο με τη γλώσσα και το περιβάλλον S, που αναπτύχθηκε στα εργαστήρια Bell (πρώην AT&T, τώρα Lucent Technologies) από τον John Chambers και τους συνεργάτες του. Το R μπορεί να θεωρηθεί διαφορετική υλοποίηση του S. Υπάρχουν μερικές σημαντικές διαφορές, αλλά ο περισσότερος κώδικας που γράφτηκε για το S εκτελείται αμετάβλητος στο R

Δωρεάν ανοιχτού κώδικα Mac Windows Linux BSD

Τι υπάρχει σε αυτή τη λίστα;

Η λίστα περιέχει προγράμματα που μπορούν να χρησιμοποιηθούν για την αντικατάσταση του STATISTICA σε πλατφόρμες Windows. Αυτή η λίστα περιέχει 6 εφαρμογές παρόμοιες με το STATISTICA.

Στο STATISTICA, το πρόβλημα συνεχούς πρόβλεψης αναπαρίσταται ως πρόβλημα παλινδρόμησης. Στο πλαίσιο αυτού του προβλήματος, ένα νευρωνικό δίκτυο θεωρείται ως μη γραμμική συνάρτηση, η πολυπλοκότητα της οποίας ελέγχεται «ημιπαραμετρικά» - ο αριθμός των στοιχείων στο δίκτυο επηρεάζει την πολυπλοκότητα της λύσης, αλλά, φυσικά, ο αναλυτής δεν μπορεί να δει τη ρητή μορφή της συνάρτησης παλινδρόμησης.

Απαιτείται η κατασκευή ενός νευρωνικού δικτύου που υπολογίζει την εκπομπή μολύβδου στην ατμόσφαιρα ανάλογα με τον αριθμό και τον τύπο της διερχόμενης μεταφοράς. Τα δεδομένα αποθηκεύονται στο αρχείο Lead.xls.

Ανοίξτε το αρχείο Svinets.xls στο πακέτο Statistica. Εμφανίζεται το παράθυρο Άνοιγμα αρχείου.

Ρύζι. 4. 33. Παράθυρο εισαγωγής.

Πρέπει να επιλέξετε την επιλογή «Εισαγωγή επιλεγμένου φύλλου» και να επιλέξετε το όνομα του φύλλου δεδομένων:

Ρύζι. 4. 34. Επιλογή φύλλου Excel για εισαγωγή στο πακέτο Statistica.

Στο επόμενο παράθυρο, πρέπει να καθορίσετε τις πραγματικές παραμέτρους δεδομένων, οι οποίες, κατά κανόνα, καθορίζονται και εμφανίζονται αυτόματα (εκτός από τα τρία τελευταία πλαίσια ελέγχου).

Ρύζι. 4. 35. Ρύθμιση της περιοχής εισαγωγής.

Μετά από αυτό, τα εισαγόμενα δεδομένα θα εμφανιστούν στο παράθυρο.

Ρύζι. 4. 36. Αποτελέσματα εισαγωγής.

Εκτελέστε το πακέτο ανάλυσης χρησιμοποιώντας νευρωνικά δίκτυα. Για να το κάνετε αυτό, επιλέξτε "Neural Networks" από το μενού "Analysis".

Ρύζι. 4. 37. Επιλογή μεθόδου επεξεργασίας δεδομένων - «νευρωνικό δίκτυο».

μετά το οποίο θα εμφανιστεί το παράθυρο πακέτου STATISTICA Neural Networks:

Ρύζι. 4. 38. Παράθυρο έναρξης για την ανάλυση «νευρωνικών δικτύων».

Μεταβείτε στην καρτέλα "Γρήγορη", όπου πρέπει να ορίσετε τον τύπο εργασίας - Regression και το εργαλείο - Network Designer.

Ρύζι. 4. 39. Εκκίνηση του σχεδιαστή νευρωνικών δικτύων.

Στη συνέχεια, κάνοντας κλικ στο κουμπί «OK», θα μεταβείτε στη λειτουργία επιλογής μεταβλητών εξόδου (εξαρτώμενη) και εισόδου (ανεξάρτητης). Επιλέγουμε το “Lead” ως πρώτο και τον αριθμό των αυτοκινήτων όλων των κατηγοριών ως τα τελευταία. Οι στήλες "Όχι" και "Οδός" παραμένουν αχρησιμοποίητες.

Ρύζι. 4. 40. Επιλογή δεδομένων εισόδου και εξόδου για ένα νευρωνικό δίκτυο.

Κάνοντας κλικ στο "Ok" θα επιστρέψετε στην καρτέλα "Quick". Στη συνέχεια, κάνοντας ξανά κλικ στο κουμπί "Ok", θα μεταφερθείτε στο παράθυρο σχηματισμού νευρωνικού δικτύου. Στην καρτέλα "Γρήγορη", πρέπει να επιλέξετε τον τύπο δικτύου - πολυστρωματικό perceptron,

Ρύζι. 4. 41. Επιλογή του τύπου νευρωνικού δικτύου.

και στην καρτέλα "Στοιχεία" μπορείτε να καθορίσετε τον απαιτούμενο αριθμό επιπέδων, τον αριθμό των νευρώνων σε καθένα, καθώς και τον τύπο της λειτουργίας ενεργοποίησης:

Ρύζι. 4. 42. Ρύθμιση του αριθμού των στρωμάτων και των τύπων νευρώνων.

Ρύζι. 4. 43. Επιλογή μεθόδου εκπαίδευσης νευρωνικού δικτύου.

Εδώ, κάνοντας κλικ στο κουμπί «Δείγματα», μπορείτε να ορίσετε τον αριθμό των παραδειγμάτων εκπαίδευσης, ελέγχου και δοκιμής. Εάν ορίσετε τον αριθμό των παραδειγμάτων δοκιμής και ελέγχου σε μηδέν, τότε το δίκτυο θα εκπαιδευτεί χρησιμοποιώντας όλα τα παραδείγματα:

Ρύζι. 4. 44. Προσδιορίστε δεδομένα εκπαίδευσης και δοκιμών.

Επιστρέφοντας στο κύριο παράθυρο εκπαίδευσης, μπορείτε να κάνετε κλικ στο κουμπί "Χρήστης" και να μεταβείτε στην καρτέλα "Διαδραστικό", να ζητήσετε να αντικατοπτριστεί η διαδικασία εκπαίδευσης με τη μορφή γραφήματος:

Ρύζι. 4. 45. Καθορισμός του τύπου γραφήματος για την επίδειξη της μαθησιακής διαδικασίας.

Τέλος, κάνοντας κλικ στο κουμπί «Ok», θα ξεκινήσετε τη διαδικασία εκμάθησης, το αποτέλεσμα της οποίας θα εμφανιστεί στο γράφημα:

Ρύζι. 4. 46. Εκπαίδευση νευρωνικού δικτύου.

Κάνοντας κλικ στο κουμπί "Ok", θα μεταφερθείτε στο παράθυρο αποτελεσμάτων, όπου μπορείτε να μελετήσετε τα διάφορα χαρακτηριστικά του δημιουργημένου δικτύου μετακινώντας τις καρτέλες του παραθύρου:

Ρύζι. 4. 47. Αποτελέσματα μοντελοποίησης νευρωνικών δικτύων.

Έτσι, για παράδειγμα, στην καρτέλα "Για προχωρημένους" υπάρχει ένα κουμπί "Αρχιτεκτονική δικτύου", κάνοντας κλικ στο οποίο μπορείτε να δείτε την τοπολογία του κατασκευασμένου δικτύου:

Ρύζι. 4. 48. Άποψη του κατασκευασμένου νευρωνικού δικτύου.

καθώς και το κουμπί «Παρατηρήσεις χρήστη», όπου μπορείτε να δώσετε στο δίκτυο νέα αρχικά δεδομένα και να λάβετε απάντηση από ένα ήδη εκπαιδευμένο δίκτυο.

Περιγράφονται μέθοδοι νευρωνικών δικτύων για ανάλυση δεδομένων, με βάση τη χρήση του πακέτου Statistica Neural Networks (κατασκευής StatSoft), πλήρως προσαρμοσμένο για τον Ρώσο χρήστη. Δίνονται τα βασικά της θεωρίας των νευρωνικών δικτύων. Δίνεται μεγάλη προσοχή στην επίλυση πρακτικών προβλημάτων, η μεθοδολογία και η τεχνολογία διεξαγωγής έρευνας με χρήση του πακέτου Statistica Neural Networks - ένα ισχυρό εργαλείο ανάλυσης δεδομένων και πρόβλεψης που έχει ευρείες εφαρμογές στις επιχειρήσεις, τη βιομηχανία, τη διαχείριση και τα οικονομικά - αναθεωρείται εκτενώς. Το βιβλίο περιέχει πολλά παραδείγματα ανάλυσης δεδομένων, πρακτικές συστάσεις για ανάλυση, πρόβλεψη, ταξινόμηση, αναγνώριση προτύπων, έλεγχο των διαδικασιών παραγωγής με χρήση νευρωνικών δικτύων Για ένα ευρύ φάσμα αναγνωστών που ασχολούνται με την έρευνα στον τραπεζικό τομέα, τη βιομηχανία, την οικονομία, τις επιχειρήσεις, τη γεωλογική εξερεύνηση. διαχείρισης, μεταφορών και άλλων τομέων. ΠεριεχόμεναΠρόλογος στη δεύτερη έκδοση Εισαγωγή. Πρόσκληση σε νευρωνικά δίκτυαΚεφάλαιο 1. ΒΑΣΙΚΕΣ ΕΝΝΟΙΕΣ ΑΝΑΛΥΣΗΣ ΔΕΔΟΜΕΝΩΝ Κεφάλαιο 2. ΕΙΣΑΓΩΓΗ ΣΤΗ ΘΕΩΡΙΑ ΠΙΘΑΝΟΤΗΤΩΝ Κεφάλαιο 3. ΕΙΣΑΓΩΓΗ ΣΤΗ ΘΕΩΡΙΑ ΝΕΥΡΩΝ ΔΙΚΤΥΩΝΚεφάλαιο 4. ΓΕΝΙΚΗ ΕΠΙΣΚΟΠΗΣΗ Τεχνητού Δικτύου ΔΙΚΤΥΑΚΗ ΔΙΚΤΥΑΚΗ ΕΠΙΣΚΟΠΗΣΗ ΣΕΒΑ Προ- και μεταεπεξεργασία. Πολυστρωματικό ny perceptron Ακτινική συνάρτηση βάσης Πιθανολογικό νευρωνικό δίκτυοΓενίκευση Νευρωνικό δίκτυο παλινδρόμησης Γραμμικό δίκτυο Kohonen Προβλήματα ταξινόμησης Προβλήματα παλινδρόμησης Πρόβλεψη χρονικών σειρώνΕπιλογή μεταβλητών και μείωση διαστάσεων Κεφάλαιο 5. ΠΡΩΤΑ ΒΗΜΑΤΑ ΣΤΑ ΝΕΥΡΩΤΙΚΑ ΔΙΚΤΥΑ ΣΤΑΤΙΣΤΙΚΗΣ.ΞεκινώνταςΔημιουργία συνόλου δεδομένωνΔημιουργία νέου δικτύουΔημιουργία συνόλου δεδομένων και δημιουργία δικτύου ΟΙ ΥΠΕΡ ΙΚΑΝΟΤΗΤΕΣ ΤΟΥ NEURAL ΔΙΚΤΥΑΚλασικό παράδειγμα: Fisher's IrisesTraining with cross-validationΣτοπικές συνθήκες Επίλυση προβλημάτων παλινδρόμησης Συναρτήσεις ακτινικής βάσης Γραμμικά μοντέλα Δίκτυα Kohonen Δίκτυα πιθανοτήτων και γενικευμένης παλινδρόμησης Κατασκευαστής δικτύου Γενετικός αλγόριθμος για την επιλογή δεδομένων εισόδου Χρονικές σειρές δεδομένων εισόδου Κεφάλαιο 7. μεταβλητές Μείωση διαστάσεων Επιλογή αρχιτεκτονικής δικτύου Προσαρμοσμένες αρχιτεκτονικές δικτύου Χρονικές σειρές Κεφάλαιο 8. ΠΑΡΑΔΕΙΓΜΑΤΑ ΕΦΑΡΜΟΓΗΣ (ΜΕΛΕΤΗ ΠΕΡΙΠΤΩΣΗΣ) Παράδειγμα 1. Μείωση διαστάσεων στη γεωλογική έρευνα Παράδειγμα 2 Αναγνώριση προτύπων Παράδειγμα 3. Μη γραμμική ταξινόμηση δισδιάστατων συνόλων Παράδειγμα διαφόρων καυσίμων. δείγματα σύμφωνα με εργαστηριακή έρευνα Παράδειγμα 5. Δημιουργία ενός μοντέλου βαθμολόγησης συμπεριφοράςΠαράδειγμα 6. Προσέγγιση συνάρτησηςΠαράδειγμα 7. Πρόβλεψη πωλήσεων λαδιούΠαράδειγμα 8. Παρακολούθηση και πρόβλεψη συνθηκών θερμοκρασίας σε μια εγκατάστασηΠαράδειγμα 9. Προσδιορισμός της αξιοπιστίας μιας ψηφιακής υπογραφήςΚεφάλαιο 9. ΓΡΗΓΟΡΟΣ ΟΔΗΓΟΣ DataNetworksTraining of the networksWaterWaterWorking System 10. ΚΛΑΣΙΚΕΣ ΜΕΘΟΔΟΙ, ΕΝΑΛΛΑΚΤΙΚΑ ΣΤΑ ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑΚλασική διακριτική ανάλυση στην ταξινόμηση STATISTICA Regression logit Ανάλυση παραγόντων στο STATISTICA Κεφάλαιο 11. ΑΝΑΛΥΣΗ ΔΕΔΟΜΕΝΩΝ ΣΤΟ STATISTICA Παράρτημα 1. Παράρτημα δημιουργίας κωδικών Ενσωμάτωση συστημάτων ενσωμάτωσης του δείκτη STATISTICA με το STATISTICA.

Πολλές έννοιες που σχετίζονται με μεθόδους νευρωνικών δικτύων εξηγούνται καλύτερα χρησιμοποιώντας ένα συγκεκριμένο πρόγραμμα νευρωνικών δικτύων ως παράδειγμα. Επομένως, σε αυτήν την ενότητα θα υπάρχουν πολλοί σύνδεσμοι προς το πακέτο ΣΤΑΤΙΣΤΙΚΗ Neural Networks (συντομογραφία ST Neural Networks, ένα πακέτο νευρωνικών δικτύων από την StatSoft), το οποίο είναι μια υλοποίηση ολόκληρου του συνόλου των μεθόδων νευρωνικών δικτύων για την ανάλυση δεδομένων.

Τα τελευταία χρόνια, έχουμε δει μια έκρηξη ενδιαφέροντος για τα νευρωνικά δίκτυα, τα οποία χρησιμοποιούνται με επιτυχία σε διάφορους τομείς - επιχειρήσεις, ιατρική, μηχανική, γεωλογία, φυσική. Τα νευρωνικά δίκτυα έχουν τεθεί σε εφαρμογή οπουδήποτε χρειάζεται να επιλυθούν προβλήματα πρόβλεψης, ταξινόμησης ή ελέγχου. Αυτή η εντυπωσιακή επιτυχία οφείλεται σε διάφορους λόγους:

Τα νευρωνικά δίκτυα είναι μια εξαιρετικά ισχυρή μέθοδος μοντελοποίησης που μπορεί να αναπαράγει εξαιρετικά πολύπλοκες εξαρτήσεις. Συγκεκριμένα, τα νευρωνικά δίκτυα είναι μη γραμμικής φύσης (η έννοια αυτής της έννοιας εξηγείται λεπτομερώς αργότερα σε αυτό το κεφάλαιο). Για πολλά χρόνια, η γραμμική μοντελοποίηση είναι η κυρίαρχη μέθοδος μοντελοποίησης στους περισσότερους τομείς, επειδή οι διαδικασίες βελτιστοποίησης έχουν αναπτυχθεί καλά γι' αυτήν. Σε προβλήματα όπου η γραμμική προσέγγιση δεν είναι ικανοποιητική (και υπάρχουν αρκετά τέτοια), τα γραμμικά μοντέλα έχουν κακή απόδοση. Επιπλέον, τα νευρωνικά δίκτυα αντιμετωπίζουν την «κατάρα της διάστασης», η οποία δεν επιτρέπει τη μοντελοποίηση γραμμικών εξαρτήσεων στην περίπτωση μεγάλου αριθμού μεταβλητών

Τα νευρωνικά δίκτυα μαθαίνουν από παραδείγματα. Ο χρήστης του νευρωνικού δικτύου επιλέγει αντιπροσωπευτικά δεδομένα και στη συνέχεια εκτελεί έναν αλγόριθμο εκμάθησης που μαθαίνει αυτόματα τη δομή των δεδομένων. Σε αυτήν την περίπτωση, ο χρήστης, φυσικά, απαιτείται να έχει ένα σύνολο ευρετικών γνώσεων σχετικά με τον τρόπο επιλογής και προετοιμασίας δεδομένων, επιλογής της επιθυμητής αρχιτεκτονικής δικτύου και ερμηνείας των αποτελεσμάτων, αλλά το επίπεδο γνώσης που απαιτείται για την επιτυχή χρήση των νευρωνικών δικτύων είναι πολύ πιο μετριοπαθής από ό,τι, για παράδειγμα, όταν χρησιμοποιούνται παραδοσιακές στατιστικές μέθοδοι.

Τα νευρωνικά δίκτυα είναι διαισθητικά ελκυστικά επειδή βασίζονται σε ένα πρωτόγονο βιολογικό μοντέλο νευρικών συστημάτων. Στο μέλλον, η ανάπτυξη τέτοιων νευροβιολογικών μοντέλων μπορεί να οδηγήσει στη δημιουργία υπολογιστών με αληθινή σκέψη. Εν τω μεταξύ, τα «απλά» νευρωνικά δίκτυα που κατασκευάζει το σύστημα ST Neural Networks είναι ένα ισχυρό όπλο στο οπλοστάσιο ενός ειδικού στην εφαρμοσμένη στατιστική (Neural networks. STATISTICA Neural Networks: Methodology and technology of modern data analysis.).

Τα νευρωνικά δίκτυα προέκυψαν από την έρευνα τεχνητής νοημοσύνης, δηλαδή από προσπάθειες αναπαραγωγής της ικανότητας των βιολογικών νευρικών συστημάτων να μαθαίνουν και να διορθώνουν λάθη προσομοιώνοντας τη δομή χαμηλού επιπέδου του εγκεφάλου (Patterson, 1996). Ο κύριος τομέας έρευνας στην τεχνητή νοημοσύνη τη δεκαετία του '60 - '80 ήταν τα έμπειρα συστήματα. Τέτοια συστήματα βασίστηκαν σε μοντελοποίηση υψηλού επιπέδου της διαδικασίας σκέψης (ιδίως στην ιδέα ότι η διαδικασία σκέψης μας βασίζεται στη χειραγώγηση συμβόλων). Σύντομα έγινε σαφές ότι τέτοια συστήματα, αν και χρήσιμα σε ορισμένους τομείς, δεν αποτύπωσαν ορισμένες βασικές πτυχές της ανθρώπινης νοημοσύνης. Μια άποψη είναι ότι ο λόγος για αυτό είναι ότι δεν είναι σε θέση να αναπαράγουν τη δομή του εγκεφάλου. Για τη δημιουργία τεχνητής νοημοσύνης, είναι απαραίτητο να κατασκευαστεί ένα σύστημα με παρόμοια αρχιτεκτονική.

Ο εγκέφαλος αποτελείται από έναν πολύ μεγάλο αριθμό (περίπου 10.000.000.000) νευρώνων που συνδέονται με πολυάριθμες συνδέσεις (κατά μέσο όρο αρκετές χιλιάδες συνδέσεις ανά νευρώνα, αλλά αυτός ο αριθμός μπορεί να παρουσιάζει μεγάλες διακυμάνσεις). Οι νευρώνες είναι ειδικά κύτταρα ικανά να μεταδίδουν ηλεκτροχημικά σήματα. Ένας νευρώνας έχει μια διακλαδισμένη δομή εισόδου πληροφοριών (δενδρίτες), έναν πυρήνα και μια διακλαδισμένη έξοδο (άξονας). Οι άξονες ενός κυττάρου συνδέονται με τους δενδρίτες άλλων κυττάρων χρησιμοποιώντας συνάψεις. Όταν ενεργοποιείται, ένας νευρώνας στέλνει ένα ηλεκτροχημικό σήμα κατά μήκος του άξονά του. Μέσω των συνάψεων, αυτό το σήμα φτάνει σε άλλους νευρώνες, οι οποίοι με τη σειρά τους μπορούν να ενεργοποιηθούν. Ένας νευρώνας ενεργοποιείται όταν το συνολικό επίπεδο των σημάτων που φτάνουν στον πυρήνα του από τους δενδρίτες υπερβαίνει ένα ορισμένο επίπεδο (κατώφλι ενεργοποίησης).

Η ένταση του σήματος που λαμβάνει ένας νευρώνας (και επομένως η πιθανότητα ενεργοποίησής του) εξαρτάται σε μεγάλο βαθμό από τη δραστηριότητα των συνάψεων. Κάθε σύναψη έχει ένα μήκος και ειδικές χημικές ουσίες μεταδίδουν ένα σήμα κατά μήκος της. Ένας από τους πιο σεβαστούς ερευνητές των νευροσυστημάτων, ο Donald Hebb, υπέθεσε ότι η μάθηση συνίσταται κυρίως σε αλλαγές στη «δύναμη» των συναπτικών συνδέσεων. Για παράδειγμα, στο κλασικό πείραμα του Pavlov, ένα κουδούνι χτυπούσε κάθε φορά λίγο πριν τον ταΐσουν ο σκύλος και ο σκύλος έμαθε γρήγορα να συνδέει το χτύπημα του κουδουνιού με το φαγητό. Οι συναπτικές συνδέσεις μεταξύ των περιοχών του εγκεφαλικού φλοιού που είναι υπεύθυνοι για την ακοή και των σιελογόνων αδένων ενισχύθηκαν και όταν ο φλοιός διεγέρθηκε από τον ήχο ενός κουδουνιού, ο σκύλος άρχισε να τρέχει σάλιο.

Έτσι, δημιουργημένος από έναν πολύ μεγάλο αριθμό πολύ απλών στοιχείων (καθένα από τα οποία παίρνει ένα σταθμισμένο άθροισμα σημάτων εισόδου και, εάν η συνολική είσοδος υπερβαίνει ένα ορισμένο επίπεδο, μεταδίδει ένα δυαδικό σήμα), ο εγκέφαλος είναι ικανός να λύνει εξαιρετικά πολύπλοκα προβλήματα . Φυσικά, δεν έχουμε αγγίξει πολλές σύνθετες πτυχές της δομής του εγκεφάλου εδώ, αλλά αυτό που είναι ενδιαφέρον είναι ότι το τεχνητόΤα νευρωνικά δίκτυα μπορούν να επιτύχουν αξιοσημείωτα αποτελέσματα χρησιμοποιώντας ένα μοντέλο που δεν είναι πολύ πιο περίπλοκο από αυτό που περιγράφηκε παραπάνω.