Η ζωή είναι η διαδικασία ύπαρξης πρωτεϊνικών μορίων. Αυτό ακριβώς το εκφράζουν πολλοί επιστήμονες, οι οποίοι είναι πεπεισμένοι ότι η πρωτεΐνη είναι η βάση όλων των ζωντανών όντων. Αυτές οι κρίσεις είναι απολύτως σωστές, γιατί αυτές οι ουσίες στο κύτταρο έχουν τον μεγαλύτερο αριθμό βασικών λειτουργιών. Όλες οι άλλες οργανικές ενώσεις παίζουν το ρόλο των ενεργειακών υποστρωμάτων και χρειάζεται και πάλι ενέργεια για τη σύνθεση των πρωτεϊνικών μορίων.

Χαρακτηριστικά σταδίου της βιοσύνθεσης πρωτεϊνών

Η δομή μιας πρωτεΐνης κωδικοποιείται σε νουκλεϊκό οξύ ή RNA) με τη μορφή κωδικονίων. Πρόκειται για κληρονομικές πληροφορίες που αναπαράγονται κάθε φορά που το κύτταρο απαιτεί μια νέα πρωτεϊνική ουσία. Η αρχή της βιοσύνθεσης βρίσκεται στον πυρήνα σχετικά με την ανάγκη σύνθεσης μιας νέας πρωτεΐνης με ήδη καθορισμένες ιδιότητες.

Σε απόκριση σε αυτό, το τμήμα του νουκλεϊκού οξέος όπου κωδικοποιείται η δομή του αποσπάται. Αυτή η θέση αντιγράφεται από το αγγελιοφόρο RNA και μεταδίδεται στα ριβοσώματα. Είναι υπεύθυνοι για την κατασκευή μιας πολυπεπτιδικής αλυσίδας που βασίζεται σε ένα μήτρα - αγγελιοφόρο RNA. Συνοπτικά, όλα τα στάδια της βιοσύνθεσης παρουσιάζονται ως εξής:

• μεταγραφή (το στάδιο του διπλασιασμού ενός τμήματος DNA με μια κωδικοποιημένη δομή πρωτεΐνης).
• επεξεργασία (στάδιο σχηματισμού αγγελιοφόρου RNA).
• μετάφραση (σύνθεση πρωτεϊνών σε ένα κύτταρο με βάση το αγγελιοφόρο RNA).
• μετα-μεταφραστική τροποποίηση («ωρίμανση» του πολυπεπτιδίου, σχηματισμός της τρισδιάστατης δομής του).

Μεταγραφή νουκλεϊκού οξέος

Όλη η πρωτεϊνική σύνθεση στο κύτταρο πραγματοποιείται από ριβοσώματα και οι πληροφορίες για τα μόρια περιέχονται στο νουκλεϊκό οξύ ή στο DNA). Εντοπίζεται στα γονίδια: κάθε γονίδιο είναι μια συγκεκριμένη πρωτεΐνη. Τα γονίδια περιέχουν πληροφορίες για την αλληλουχία αμινοξέων της νέας πρωτεΐνης. Στην περίπτωση του DNA, η αφαίρεση του γενετικού κώδικα πραγματοποιείται ως εξής:

• αρχίζει η απελευθέρωση της περιοχής νουκλεϊκού οξέος από τις ιστόνες, λαμβάνει χώρα απελευθέρωση.
• Η DNA πολυμεράση αντιγράφει το τμήμα του DNA που αποθηκεύει το γονίδιο της πρωτεΐνης.
• το διπλό τμήμα είναι ένας πρόδρομος του αγγελιαφόρου RNA, το οποίο υποβάλλεται σε επεξεργασία από ένζυμα για την αφαίρεση μη κωδικοποιητικών ενθέτων (η σύνθεση mRNA πραγματοποιείται βάσει αυτού).

Με βάση το αγγελιοφόρο RNA, λαμβάνει χώρα σύνθεση mRNA. Είναι ήδη μια μήτρα, μετά την οποία η πρωτεϊνική σύνθεση στο κύτταρο λαμβάνει χώρα στα ριβοσώματα (στο τραχύ ενδοπλασματικό δίκτυο).

Ριβοσωμική πρωτεϊνική σύνθεση

Το αγγελιοφόρο RNA έχει δύο άκρα, τα οποία έχουν σχήμα 3`-5`. Η ανάγνωση και η σύνθεση των πρωτεϊνών στα ριβοσώματα ξεκινά από το 5' άκρο και συνεχίζει μέχρι το εσώνιο - μια περιοχή που δεν κωδικοποιεί κανένα αμινοξύ. Συμβαίνει έτσι:

• Το αγγελιαφόρο RNA είναι «στριμωγμένο» στο ριβόσωμα και συνδέει το πρώτο αμινοξύ.
• το ριβόσωμα κινείται κατά μήκος του αγγελιοφόρου RNA κατά ένα κωδικόνιο.
• Το RNA μεταφοράς παρέχει το απαιτούμενο (που κωδικοποιείται από αυτό το κωδικόνιο mRNA) άλφα αμινοξύ.
• το αμινοξύ προστίθεται στο αρχικό αμινοξύ για να σχηματίσει ένα διπεπτίδιο.
• το mRNA στη συνέχεια μετατοπίζεται ένα κωδικόνιο προς τα πίσω, προστίθεται ένα άλφα αμινοξύ και ενώνεται με την αναπτυσσόμενη πεπτιδική αλυσίδα.

Μόλις το ριβόσωμα φτάσει στο εσώνιο (μη κωδικοποιητικό ένθετο), το αγγελιαφόρο RNA απλώς προχωρά. Στη συνέχεια, καθώς το αγγελιαφόρο RNA προχωρά, το ριβόσωμα φθάνει ξανά σε ένα εξόνιο - μια περιοχή της οποίας η αλληλουχία νουκλεοτιδίων αντιστοιχεί σε ένα συγκεκριμένο αμινοξύ.

Από αυτό το σημείο ξεκινά και πάλι η προσκόλληση των πρωτεϊνικών μονομερών στην αλυσίδα. Η διαδικασία συνεχίζεται μέχρι την εμφάνιση του επόμενου εσωνίου ή μέχρι ένα κωδικόνιο λήξης. Η τελευταία σταματά τη σύνθεση της πολυπεπτιδικής αλυσίδας, μετά την οποία θεωρείται πλήρης και ξεκινά το στάδιο της μετασυνθετικής (μετα-μεταφραστικής) τροποποίησης του μορίου.

Μετα-μεταφραστική τροποποίηση

Μετά τη μετάφραση, η πρωτεϊνοσύνθεση λαμβάνει χώρα στις λείες δεξαμενές, οι οποίες περιέχουν μικρό αριθμό ριβοσωμάτων. Σε ορισμένα κύτταρα μπορεί να απουσιάζουν εντελώς από τις ΑΠΕ. Τέτοιες περιοχές χρειάζονται για το σχηματισμό πρώτα μιας δευτερεύουσας, στη συνέχεια μιας τριτογενούς ή, εάν προγραμματιστεί, μιας τεταρτοταγούς δομής.

Όλη η πρωτεϊνική σύνθεση στο κύτταρο συμβαίνει με τη δαπάνη μιας τεράστιας ποσότητας ενέργειας ATP. Επομένως, απαιτούνται όλες οι άλλες βιολογικές διεργασίες για τη διατήρηση της βιοσύνθεσης πρωτεϊνών. Επιπλέον, απαιτείται λίγη ενέργεια για τη μεταφορά πρωτεϊνών εντός του κυττάρου με ενεργή μεταφορά.

Πολλές από τις πρωτεΐνες μεταφέρονται από μια θέση στο κύτταρο σε άλλη για τροποποίηση. Συγκεκριμένα, η μετα-μεταφραστική πρωτεϊνική σύνθεση λαμβάνει χώρα στο σύμπλεγμα Golgi, όπου μια περιοχή υδατάνθρακα ή λιπιδίου συνδέεται με ένα πολυπεπτίδιο συγκεκριμένης δομής.

Η αποτελεσματική κωδικοποίηση λύνει το πρόβλημα της πιο συμπαγούς εγγραφής των μηνυμάτων που δημιουργούνται από την πηγή λόγω της επανακωδικοποίησής τους. Και χρησιμοποιείται σχεδόν σε όλα τα αρχεία αρχειοθέτησης όπως το Rar, το Zip κ.λπ. Η ιδιαιτερότητα αυτών των αρχειοθηκών είναι ότι σας επιτρέπουν να συμπιέσετε πληροφορίες σχετικά μικρές φορές (2-3, το πολύ 4 φορές), αλλά ταυτόχρονα , η πλήρης ανάκτηση των συμπιεσμένων πληροφοριών πραγματοποιείται "bit to bit". Εάν δεν χρειάζεται να επαναφέρετε πληροφορίες bit-to-bit, τότε χρησιμοποιούνται άλλες μέθοδοι διακωδικοποίησης που σας επιτρέπουν να επιτύχετε συμπίεση δεκάδες φορές. Βασίζονται στη μελέτη των προτύπων δημιουργίας μηνυμάτων από την πηγή, στη μελέτη των ιδιοτήτων της ίδιας της πηγής και στην κατανόηση του πόσο απαραίτητο είναι να διατηρηθούν οι αρχικές πληροφορίες για τον καταναλωτή. Για παράδειγμα, κατά τη μετάδοση της ομιλίας, δεν μπορείτε να τη μεταδώσετε "κομμάτι για λίγο", αλλά να επιτρέψετε παραμορφώσεις που ο παραλήπτης του φωνητικού μηνύματος απλά δεν θα παρατηρήσει λόγω της αναλγησίας του ανθρώπινου ακουστικού βαρηκοΐας σε αυτές τις αλλαγές. Ταυτόχρονα, θα διατηρηθεί η καταληπτότητα της ομιλίας, η αναγνώριση φωνής και ο συναισθηματικός της χρωματισμός. Η μερική απώλεια αυτών των ιδιοτήτων αυξάνει τη συμπίεσή του. Ας τονίσουμε για άλλη μια φορά ότι η αποτελεσματική κωδικοποίηση είναι η συμπίεση και η επαναφορά της πληροφορίας «bit bit».

Γενικός ορισμός κωδικοποίησης και κώδικα. Εργασίες κωδικοποίησης

Η κωδικοποίηση - με την ευρεία έννοια της λέξης - είναι η αναπαράσταση μηνυμάτων σε μια μορφή κατάλληλη για μετάδοση μέσω ενός δεδομένου καναλιού.

Η αντίστροφη λειτουργία της κωδικοποίησης ονομάζεται αποκωδικοποίηση.

Ας επιστρέψουμε ξανά στην εξέταση του γενικού σχήματος του συστήματος μετάδοσης πληροφοριών.

Ρύζι. 3.1. Γενικό διάγραμμα του συστήματος μετάδοσης πληροφοριών

Μήνυμα ΧΣτην έξοδο της πηγής πληροφοριών (AI), είναι απαραίτητο να αντιστοιχίσετε ένα συγκεκριμένο σήμα. Δεδομένου ότι ο αριθμός των μηνυμάτων τείνει στο άπειρο με απεριόριστη αύξηση του χρόνου, είναι σαφές ότι η δημιουργία του δικού σας σήματος για κάθε μήνυμα είναι σχεδόν αδύνατη.

Δεδομένου ότι τα διακριτά μηνύματα αποτελούνται από γράμματα και τα συνεχή μηνύματα μπορούν να αναπαρασταθούν με μια ακολουθία αριθμών σε κάθε στιγμή μέτρησης, είναι ουσιαστικά δυνατό να αρκεστούμε σε έναν πεπερασμένο αριθμό δειγμάτων σημάτων που αντιστοιχούν σε μεμονωμένα γράμματα του αλφαβήτου πηγής.

Όταν το αλφάβητο είναι μεγάλο, καταφεύγουν στην αναπαράσταση γραμμάτων σε άλλο αλφάβητο με μικρότερο αριθμό γραμμάτων, τα οποία θα ονομάσουμε σύμβολα.

Για να δηλώσει αυτή τη λειτουργία, χρησιμοποιείται ο ίδιος όρος - κωδικοποίηση, κατανοητή πλέον με στενή έννοια.

Δεδομένου ότι το αλφάβητο των συμβόλων είναι μικρότερο από το αλφάβητο των γραμμάτων, κάθε γράμμα αντιστοιχεί σε μια συγκεκριμένη ακολουθία συμβόλων, που ονομάζεται συνδυασμός κωδικών. Ο αριθμός των χαρακτήρων σε έναν συνδυασμό κωδικών ονομάζεται τιμή του.

Η διαδικασία μετατροπής γραμμάτων σε σύμβολα μπορεί να εξυπηρετήσει διάφορους σκοπούς:

1. Το πρώτο από αυτά είναι η μετατροπή πληροφοριών σε ένα τέτοιο σύστημα συμβόλων (κώδικας) έτσι ώστε να διασφαλίζεται η απλότητα και η αξιοπιστία της εφαρμογής υλικού των συσκευών πληροφοριών, π.χ.

• απλότητα εξοπλισμού για τη διάκριση μεμονωμένων χαρακτήρων.
• ελάχιστος χρόνος μεταφοράς·
• ελάχιστη χωρητικότητα αποθήκευσης κατά την αποθήκευση·
• ευκολία εκτέλεσης αριθμητικών και λογικών πράξεων στο υιοθετημένο σύστημα.

Δεν λαμβάνονται υπόψη οι στατιστικές ιδιότητες της πηγής των μηνυμάτων και οι παρεμβολές στο κανάλι επικοινωνίας.

Η τεχνική υλοποίηση της διαδικασίας κωδικοποίησης σε αυτή την απλούστερη μορφή με συνεχές σήμα εισόδου πραγματοποιείται από μετατροπείς αναλογικού σε κώδικα (ψηφιακό).

2. Ο δεύτερος σκοπός της κωδικοποίησης είναι, με βάση τα θεωρήματα του Shannon, να εναρμονίσει τις ιδιότητες της πηγής μηνύματος με τις ιδιότητες του καναλιού επικοινωνίας.

Ο αποκαλούμενος κωδικοποιητής πηγής (SC) στοχεύει να παρέχει κωδικοποίηση στην οποία, εξαλείφοντας τον πλεονασμό, μειώνεται σημαντικά ο μέσος αριθμός συμβόλων που απαιτούνται ανά γράμμα μηνύματος.

Ελλείψει παρεμβολών, αυτό οδηγεί άμεσα σε κέρδος στο χρόνο μετάδοσης ή στον χώρο αποθήκευσης, δηλ. αυξάνει την αποδοτικότητα του συστήματος. http://peredacha-informacii.ru/ Αυτή η κωδικοποίηση ονομάζεται αποτελεσματική κωδικοποίηση.

Με την παρουσία παρεμβολών στο κανάλι, η αποτελεσματική κωδικοποίηση σάς επιτρέπει να μετατρέψετε τις πληροφορίες εισόδου σε μια ακολουθία συμβόλων που είναι καλύτερα προετοιμασμένη για περαιτέρω μετατροπή (μέγιστη συμπίεση).

Ο λεγόμενος κωδικοποιητής καναλιών (CC) στοχεύει να εξασφαλίσει μια δεδομένη αξιοπιστία κατά τη μετάδοση ή την αποθήκευση πληροφοριών εισάγοντας επιπλέον πλεονασμό, αλλά χρησιμοποιώντας απλούς αλγόριθμους και λαμβάνοντας υπόψη τα στατιστικά πρότυπα παρεμβολών στο κανάλι επικοινωνίας. Αυτός ο τύπος κωδικοποίησης ονομάζεται κωδικοποίηση ανθεκτικός στον θόρυβο.

Η σκοπιμότητα εξάλειψης του πλεονασμού μηνύματος χρησιμοποιώντας αποτελεσματικές μεθόδους κωδικοποίησης που ακολουθείται από επανακωδικοποίηση με κωδικό ανθεκτικό σε σφάλματα οφείλεται στο γεγονός ότι ο πλεονασμός της πηγής μηνύματος στις περισσότερες περιπτώσεις δεν συνάδει με τα στατιστικά πρότυπα παρεμβολών στο κανάλι επικοινωνίας και επομένως δεν μπορεί να χρησιμοποιηθεί πλήρως για την αύξηση της αξιοπιστίας του ληφθέντος μηνύματος, ενώ είναι δυνατό να επιλέξετε έναν κατάλληλο για αυτήν την παρεμβολή είναι ένας κωδικός ανθεκτικός στο θόρυβο.

Επιπλέον, ο πλεονασμός μηνυμάτων είναι συχνά συνέπεια πολύ περίπλοκων πιθανολογικών εξαρτήσεων και επιτρέπει τον εντοπισμό και τη διόρθωση σφαλμάτων μόνο μετά την αποκωδικοποίηση ολόκληρου του μηνύματος, χρησιμοποιώντας εξαιρετικά πολύπλοκους αλγόριθμους και διαίσθηση.

Έτσι, η επιλογή των συσκευών κωδικοποίησης και αποκωδικοποίησης εξαρτάται από τις στατιστικές ιδιότητες της πηγής μηνύματος, καθώς και από το επίπεδο και τη φύση των παρεμβολών στο κανάλι επικοινωνίας.

Εάν ουσιαστικά δεν υπάρχει πλεονασμός πηγής μηνύματος και καμία παρεμβολή στο κανάλι επικοινωνίας, τότε η εισαγωγή τόσο ενός κωδικοποιητή πηγής όσο και ενός κωδικοποιητή καναλιού δεν είναι πρακτική.

Όταν ο πλεονασμός της πηγής μηνυμάτων είναι υψηλός και οι παρεμβολές είναι χαμηλές, συνιστάται να εισάγετε μόνο έναν κωδικοποιητή πηγής.

Όταν ο πλεονασμός της πηγής είναι μικρός και η παρεμβολή είναι μεγάλη, συνιστάται η εισαγωγή ενός κωδικοποιητή καναλιού.

Εάν υπάρχει μεγάλος πλεονασμός και υψηλό επίπεδο παρεμβολών, συνιστάται η εισαγωγή πρόσθετων συσκευών κωδικοποίησης και αποκωδικοποίησης.

Μετά τον κωδικοποιητή καναλιού KK, το κωδικοποιημένο σήμα εισέρχεται στη συσκευή για την κωδικοποίηση συμβόλων με σήματα - διαμορφωτής M. Το σήμα που λαμβάνεται στην έξοδο του διαμορφωτή Υπροετοιμασμένοι για μετάδοση μέσω μιας συγκεκριμένης γραμμής επικοινωνίας LAN.

Η συσκευή για την αποκωδικοποίηση σημάτων σε σύμβολα (αποδιαμορφωτής DM) λαμβάνει ένα σήμα από τη γραμμή επικοινωνίας, παραμορφωμένο από θόρυβο, το οποίο υποδεικνύεται στο διάγραμμα - Ζ.

Η συσκευή αποκωδικοποίησης κωδικών με αντοχή στον θόρυβο (αποκωδικοποιητής καναλιού DC) και η συσκευή αποκωδικοποίησης μηνυμάτων (αποκωδικοποιητής πηγής DI) παράγουν ένα αποκωδικοποιημένο μήνυμα Wστον παραλήπτη P (άτομο ή μηχανή).

Αποτελεσματική κωδικοποίηση πληροφοριών όταν μεταδίδεται μέσω καναλιών επικοινωνίας

1.7. Μετάδοση πληροφοριών μέσω του καναλιού χωρίς παρεμβολές

Εάν μια ακολουθία διακριτών μηνυμάτων διάρκειας μεταδίδεται μέσω ενός καναλιού επικοινωνίας χωρίς παρεμβολές, τότε το όριο της αναλογίας

όπου είναι η ποσότητα των πληροφοριών που περιέχονται σε μια ακολουθία μηνυμάτων (η ταχύτητα μετάδοσης πληροφοριών μέσω του καναλιού επικοινωνίας). Η οριακή τιμή της ταχύτητας μετάδοσης πληροφοριών ονομάζεται χωρητικότητα καναλιού επικοινωνίας:

Όπως είναι γνωστό, ο όγκος των πληροφοριών στα μηνύματα είναι μέγιστος όταν η πιθανότητα των καταστάσεων είναι ίση. Επειτα

Η ταχύτητα μεταφοράς πληροφοριών εξαρτάται γενικά από τις στατιστικές ιδιότητες του μηνύματος και τις παραμέτρους

κανάλι επικοινωνίας. Το εύρος ζώνης είναι ένα χαρακτηριστικό ενός καναλιού επικοινωνίας που δεν εξαρτάται από την ταχύτητα μετάδοσης πληροφοριών. Ποσοτικά, η απόδοση ενός καναλιού επικοινωνίας εκφράζεται από τον μέγιστο αριθμό δυαδικών μονάδων πληροφοριών που μπορεί να μεταδώσει ένα δεδομένο κανάλι επικοινωνίας σε ένα δευτερόλεπτο.

Για την πιο αποτελεσματική χρήση ενός καναλιού επικοινωνίας, είναι απαραίτητο ο ρυθμός μεταφοράς πληροφοριών να είναι όσο το δυνατόν πιο κοντά στη διεκπεραίωση του καναλιού επικοινωνίας.

Εάν ο ρυθμός με τον οποίο φθάνουν οι πληροφορίες στην είσοδο του καναλιού επικοινωνίας υπερβαίνει τη χωρητικότητα του καναλιού, τότε δεν θα μεταδοθούν όλες οι πληροφορίες μέσω του καναλιού, δηλαδή πρέπει να πληρούται η προϋπόθεση

Αυτή είναι η κύρια προϋπόθεση για τον συντονισμό της πηγής πληροφοριών και του καναλιού επικοινωνίας. Η διαπραγμάτευση ολοκληρώνεται με την κατάλληλη κωδικοποίηση μηνυμάτων. Έχει αποδειχθεί ότι εάν η ταχύτητα των πληροφοριών που παράγονται από την πηγή των μηνυμάτων είναι αρκετά κοντά στη χωρητικότητα του καναλιού, δηλ. όπου η τιμή είναι αυθαίρετα μικρή, είναι πάντα δυνατό να βρεθεί μια μέθοδος κωδικοποίησης που θα διασφαλίζει τη μετάδοση των μηνυμάτων που δημιουργούνται από την πηγή και η ταχύτητα μεταφοράς πληροφοριών θα είναι πολύ κοντά στη χωρητικότητα του καναλιού.

Η αντίστροφη δήλωση είναι ότι είναι αδύνατο να διασφαλιστεί η μακροπρόθεσμη μετάδοση όλων των μηνυμάτων εάν η ροή των πληροφοριών που παράγεται από την πηγή υπερβαίνει τη χωρητικότητα του καναλιού.

Εάν μια πηγή μηνύματος με εντροπία ανά σύμβολο ίση με τη χωρητικότητα του καναλιού επικοινωνίας είναι συνδεδεμένη στην είσοδο του καναλιού, η πηγή θεωρείται ότι είναι συνεπής με το κανάλι. Εάν η εντροπία της πηγής είναι μικρότερη από τη χωρητικότητα του καναλιού, κάτι που μπορεί να συμβαίνει εάν οι καταστάσεις πηγής είναι άνισες, τότε η πηγή δεν συμφωνεί

συνδέεται με το κανάλι επικοινωνίας, δηλαδή το κανάλι δεν χρησιμοποιείται πλήρως.

Η συμφωνία με τη στατιστική έννοια επιτυγχάνεται χρησιμοποιώντας τη λεγόμενη στατιστική κωδικοποίηση. Για να κατανοήσετε την αρχή της στατιστικής κωδικοποίησης, εξετάστε δύο ακολουθίες μηνυμάτων που αντιπροσωπεύουν, για παράδειγμα, το σήμα κατάστασης ενός ελεγχόμενου αντικειμένου δύο θέσεων (ενεργό ή απενεργοποιημένο) που καταγράφεται σε τακτά χρονικά διαστήματα:

Ο χαρακτήρας 1 αντιστοιχεί στο σήμα "αντικείμενο είναι ενεργοποιημένο", το σύμβολο 0 είναι "το αντικείμενο είναι απενεργοποιημένο". Θα υποθέσουμε ότι τα σύμβολα εμφανίζονται ανεξάρτητα το ένα από το άλλο.

Για την πρώτη ακολουθία, τα σύμβολα 1 και 0 είναι εξίσου πιθανά, για τη δεύτερη - η πιθανότητα του πρώτου συμβόλου του δεύτερου συμβόλου

Εντροπία της πρώτης ακολουθίας Εντροπία της δεύτερης ακολουθίας Επομένως, η ποσότητα πληροφοριών ανά σύμβολο στη δεύτερη ακολουθία είναι η μισή από αυτήν της πρώτης.

Κατά τη μετάδοση ακολουθιών μέσω ενός δυαδικού καναλιού επικοινωνίας, η πρώτη ακολουθία θα είναι συνεπής με το κανάλι, ενώ κατά τη μετάδοση της δεύτερης ακολουθίας, η χωρητικότητα του δυαδικού καναλιού ανά σύμβολο είναι διπλάσια από την εντροπία της πηγής, δηλαδή το κανάλι είναι υποφορτωμένο και, σε μια στατιστική έννοια, δεν συνάδει με την πηγή

Η στατιστική κωδικοποίηση καθιστά δυνατή την αύξηση της εντροπίας των μεταδιδόμενων μηνυμάτων μέχρι το όριο που επιτυγχάνεται εάν τα σύμβολα της νέας ακολουθίας είναι εξίσου πιθανά. Σε αυτήν την περίπτωση, ο αριθμός των χαρακτήρων στην ακολουθία θα μειωθεί. Σαν άποτέλεσμα

η πηγή πληροφοριών είναι συνεπής με το κανάλι επικοινωνίας. Η τεχνική μιας τέτοιας κωδικοποίησης περιγράφεται στην § 2.9.

Κεφάλαιο 1. ΓΕΝΙΚΕΣ ΠΛΗΡΟΦΟΡΙΕΣ