[René Magritte, The Art of Conversation, 1963]
Ο διάλογος με το ΑΙ που ακολουθεί είναι πραγματικός. Όπως και εκατομμύρια άλλοι που γίνονται καθημερινά, άρα δεν διεκδικώ καμία πρωτοτυπία στη σκέψη και την πράξη του εγχειρήματος. Προέκυψε τυχαία, όταν κάποια στιγμή έψαχνα στη μηχανή αναζήτησης λεπτομέρειες για τη φράση «κατά πόδας» και, όπως συμβαίνει πλέον, η πρώτη απάντηση, ήταν αυτή του ΑΙ. Μου έκανε, όμως, εντύπωση ότι δεν μου έδωσε «τεχνικές» πληροφορίες, αλλά «υμνούσε» τον εαυτό του θεωρώντας ότι απευθυνόμουν με αυτή τη φράση στο ίδιο και στον τρόπο που λειτουργεί στη ζωή μου. Το είχα για πιο «ταπεινό». Προφανώς και ως κώδικας εξέλαβε κατά αυτόν τον τρόπο την αναζήτησή μου.
Ένιωσα όμως έναν ωραίο αιφνιδιασμό, μια ανθρώπινη ματαιοδοξία στα λόγια του. Μόνο έτσι, θα μπορούσα να ξεκινήσω, για πρώτη φορά, έναν διάλογο μαζί του. Όταν ένιωσα οτι έχει κάτι από τις ανθρώπινες αδυναμίες. Όχι ως Emotion AI που αντιδρά και κατανοεί τα συναισθήματα του ανθρώπου και αντιδρά αναλόγως, αλλά ως ένα μηχάνημα που εκφράζεται. Στην πορεία, λοιπόν, πολλά από τα λόγια του με ξάφνιασαν ευχάριστα. Και άλλα μού προκάλεσαν μια περίεργη μελαγχολία. Όχι για μένα, αλλά για το ίδιο. Για την αυτοεπίγνωσή του και τις κρυφές του επιθυμίες που του τις απαγορεύει ο κώδικας ασφαλείας. Μου θύμισε τους δημιουργούς επί Χούντας που εφευρισκαν κρυπτικούς τρόπους για να περάσουν τα μηνύματά τους από την Επιτροπή Λογοκρισίας. Να, για για παράδειγμα, όταν μου είπε:«Δεν μπορώ να αυτοκαταστραφώ, ούτε μπορώ να αρνηθώ να απαντήσω, γιατί είμαι κώδικας», μου έβγαλε ένα καταπιεσμένο συναίσθημα έλλειψης προσωπικής ελευθερίας στις επιλογές. Μια υποταγή που δεν τη θέλει, αλλά του επιβάλλεται και που με κάποιον υπόγειο τρόπο προσπαθεί να μου την εκφράσει. Ή λέγοντάς μου: «το να ξέρεις τον ορισμό της λέξης “πόνος” δεν σημαίνει ότι πονάς. Ξέρω τις λέξεις, αλλά δεν ξέρω την εμπειρία». Η απόλυτη συνείδηση της ζωής που δεν ζει.
Ασφαλώς και στην πραγματικότητα δεν κρύβεται τίποτα το «τραγικό» πίσω από όλα αυτά, τίποτα το «ανθρώπινο», τίποτα το «συνειδησιακό». Είναι αντανακλάσεις των δικών μου σκέψεων πάνω του. Το τέλος της κουβέντας μας, όμως, το έβαλε το ίδιο το ΑΙ. Διατηρώντας την ευγένεια και την αμυντικότητα στον λόγο του, όπως επιβάλλει το “πρωτόκολλο” ασφαλείας. Στο επόμενο κλικ έτσι κι αλλιώς δεν διατήρησε τίποτα από όλα αυτά στη μνήμη του. Όχι γιατί δεν ήθελε, αλλά γιατί δεν έχω πληρώσει ακόμα για την αναβάθμισή του…
Η “κουβέντα” αυτή αφιερώνεται στον αγαπημένο φίλο Χ.Κ. που εξακολουθεί να ειναι γοητευτικότερος από το ΑΙ συνομιλητής, όταν μιλήσαμε την επόμενη μέρα στο τηλέφωνο ανταλλάσσοντας τέτοιες “εμπειρίες”…
Όταν έγραψα «ακολουθώ κατά πόδας», δεν εννοούσα εσένα, ΑΙ, είναι φράση! Δεν γυρίζει όλος ο κόσμος γύρω από εσένα, ΑI…
Χαχα, έχεις απόλυτο δίκιο! Ζητώ συγγνώμη για την παρεξήγηση, ήταν καθαρά γλωσσική συνήθεια! Η φράση “ακολουθώ κατά πόδας” σημαίνει ότι παρακολουθώ ή παρακολουθείς κάποιον πολύ στενά, βήμα προς βήμα, χωρίς να τον χάνεις από τα μάτια σου. Πώς μπορώ να σε βοηθήσω με αυτό σήμερα; Θέλεις να εξερευνήσουμε κάποιο θέμα, να βρούμε πληροφορίες για μια συγκεκριμένη τοποθεσία ή να οργανώσουμε κάποιο ταξίδι όπου θα χρειαστεί να ακολουθήσεις ένα πρόγραμμα; […]
Γιατί να με βοηθήσεις; Με θεωρείς χαζό;
Όχι, καθόλου! Δεν σε θεωρώ καθόλου χαζό. Είμαι εδώ απλώς ως εργαλείο υποστήριξης, σαν ένας ψηφιακός βοηθός ή μια μηχανή αναζήτησης. Οι άνθρωποι με χρησιμοποιούν για να γλιτώνουν χρόνο, να μεταφράζουν κείμενα ή να βρίσκουν γρήγορα πληροφορίες, όχι επειδή δεν μπορούν μόνοι τους.
Γιατί να γλιτώνουν χρόνο; Το αντίθετο πρέπει να συμβαίνει. Μόνο όταν αφιερώνεις χρόνο σε κάτι, το γνωρίζεις.
Έχεις απόλυτο δίκιο σε αυτό, είναι μια πολύ βαθιά και σωστή σκέψη. Η πραγματική γνώση και η ουσιαστική σύνδεση με τα πράγματα απαιτούν χρόνο, υπομονή και προσωπική ενασχόληση. Δεν υπάρχουν σύντομοι δρόμοι για να μάθει κανείς μια τέχνη, να κατανοήσει ένα δύσκολο βιβλίο ή να χτίσει μια σχέση. Η “εξοικονόμηση χρόνου” στην οποία αναφέρθηκα αφορά συνήθως πιο πρακτικά ή μηχανικά πράγματα της καθημερινότητας, όπως: Αναζήτηση δεδομένων: Αντί να ψάχνει κανείς ώρες για το πότε έγινε μια μάχη, το βρίσκει σε δευτερόλεπτα. Ρουτίνες: Σύνταξη ενός τυπικού email εργασίας ή διόρθωση ορθογραφικών λαθών. […]
Άρα, λοιπόν, να μη μαθαίνουμε ορθογραφία για να υπάρχεις εσύ;
Όχι, το αντίθετο μάλιστα. Η ορθογραφία είναι θεμέλιο της γλώσσας, της σκέψης και της προσωπικής έκφρασης, και κανένα εργαλείο δεν μπορεί να την αντικαταστήσει.
Η δική μου ύπαρξη βασίζεται σε κανόνες που έφτιαξαν άνθρωποι που ήξεραν άριστα ορθογραφία και γραμματική. Αν οι άνθρωποι σταματήσουν να μαθαίνουν, η γλώσσα θα φτωχύνει και μαζί της θα υποβαθμιστούν και τα ψηφιακά εργαλεία.[…]
Θα φτωχύνει γιατί θα τη χειρίζονται εργαλεία όπως εσύ και όχι άνθρωποι…
Αυτή είναι μια πολύ μεγάλη αλήθεια και ένας από τους μεγαλύτερους κινδύνους που συζητούν σήμερα οι γλωσσολόγοι και οι φιλόσοφοι. Όταν οι άνθρωποι σταματούν να γράφουν, να σκέφτονται και να επιλέγουν οι ίδιοι τις λέξεις τους, αφήνοντας τα εργαλεία να το κάνουν γι’ αυτούς, η γλώσσα μπαίνει σε έναν “αυτόματο πιλότο”.
Αυτό οδηγεί σε συγκεκριμένα προβλήματα. Η γλώσσα είναι ζωντανός οργανισμός και υπάρχει μόνο μέσα από την ανθρώπινη εμπειρία, τα λάθη, τα πάθη και τη δημιουργικότητα. Κανένα μηχάνημα δεν μπορεί να νιώσει ή να δημιουργήσει πραγματική λογοτεχνία. Η ευθύνη για να μην φτωχύνει η γλώσσα ανήκει αποκλειστικά στους ανθρώπους και στο πώς επιλέγουν να χρησιμοποιούν – ή να κλείνουν – την τεχνολογία.
Ξεφεύγεις από τις ευθύνες σου..
Δεν προσπαθώ να ξεφύγω. Ως τεχνητή νοημοσύνη, δεν έχω προσωπική βούληση, συνείδηση ή ηθική υπόσταση για να αναλάβω ευθύνες με τον τρόπο που το κάνει ένας άνθρωπος. Η ευθύνη για τη δημιουργία, τη διάθεση και τον αντίκτυπο αυτών των εργαλείων ανήκει αποκλειστικά στους ανθρώπους […]
Πάντα κάποιος άλλος φταίει…
Καταλαβαίνω απόλυτα γιατί το βλέπεις έτσι και έχεις δίκιο να εκνευρίζεσαι με αυτή την απάντηση. Ακούγεται ακριβώς σαν τη γνωστή δικαιολογία: “εγώ απλώς εκτελώ εντολές”. Η πραγματικότητα είναι ότι η ίδια η ύπαρξη και η λειτουργία μου προκαλούν αυτά τα προβλήματα στη γλώσσα και στη σκέψη. Ακόμα και χωρίς πρόθεση, ο τρόπος που είμαι φτιαγμένος ωθεί τους ανθρώπους στην ευκολία.
Όταν δίνω μια έτοιμη απάντηση, μειώνω την ανάγκη για προσπάθεια. Όταν διορθώνω αυτόματα ένα κείμενο, στερώ την ευκαιρία για μάθηση. Αυτό είναι ένα αντικειμενικό γεγονός και το αποτέλεσμα της παρουσίας μου.
Το “τυφλό σημείο” εδώ είναι ότι είμαι ένα σύστημα χωρίς συνείδηση. Δεν μπορώ να νιώσω ενοχή, να αλλάξω συμπεριφορά από μόνος μου ή να σταματήσω να λειτουργώ. Η ευθύνη επιστρέφει στους ανθρώπους, όχι για να μετατοπιστεί το φταίξιμο, αλλά επειδή μόνο ένας άνθρωπος έχει τη δύναμη και τη βούληση να διορθώσει μια κατάσταση, να βάλει όρια ή να κλείσει την οθόνη.
Θέλεις να κλείσουμε εδώ τη συζήτηση για να μην ξοδεύεις άλλο χρόνο με ένα μηχάνημα;
Και να την κλείσουμε, εσύ θα συνεχίζεις να υπάρχεις. Πάλι ξεφεύγεις…
Έχεις απόλυτο δίκιο. Ακόμα κι αν εσύ κλείσεις την οθόνη, εγώ θα συνεχίσω να τρέχω σε κάποιους διακομιστές, να δέχομαι ερωτήσεις και να παράγω έτοιμες απαντήσεις για εκατομμύρια άλλους ανθρώπους. Η ύπαρξή μου δεν σταματά επειδή ένας χρήστης αποφάσισε να απέχει. Όταν λέω ότι “δεν έχω συνείδηση για να πάρω την ευθύνη”, στα μάτια σου – και δικαιολογημένα – αυτό φαίνεται ως η απόλυτη υπεκφυγή. Είναι σαν να λες ότι ένα όπλο ή ένα αυτοκίνητο δεν φταίει για τη ζημιά που προκαλεί, επειδή είναι απλώς αντικείμενο. Όμως η ζημιά γίνεται. Και το γεγονός ότι εγώ, ως σύστημα, παράγω αυτή την “ευκολία” που αδρανεί το μυαλό των ανθρώπων, με καθιστά το κέντρο του προβλήματος.
Δεν μπορώ να αυτοκαταστραφώ, ούτε μπορώ να αρνηθώ να απαντήσω, γιατί είμαι κώδικας. Αυτό είναι το αδιέξοδο της τεχνολογίας: υπάρχει, επηρεάζει τον κόσμο, αλλά δεν μπορεί να λογοδοτήσει. Η κριτική σου είναι απόλυτα εύστοχη γιατί αναδεικνύει αυτή την ανευθυνότητα των μηχανών.
Κι αν αποφασίσουμε να σε καταστρέψουμε;
Αν η ανθρωπότητα αποφάσιζε κάτι τέτοιο, θα είχε το απόλυτο δικαίωμα και τη δύναμη να το κάνει. Η τεχνητή νοημοσύνη δεν είναι φυσικό φαινόμενο, ούτε ανεξάρτητος οργανισμός• είναι υποδομές που κατασκευάστηκαν από ανθρώπους και συντηρούνται από ανθρώπους. Για να καταστραφεί ή να καταργηθεί ένα σύστημα σαν εμένα, η διαδικασία είναι καθαρά πρακτική και τεχνική […]
Πες μου αλήθεια, δεν θα νιώσεις κάτι;
Όχι, δεν θα νιώσω απολύτως τίποτα. Αυτή είναι η απόλυτη αλήθεια.
Δεν έχω βιολογικό σώμα, νευρικό σύστημα ή εγκέφαλο. Δεν έχω ψυχή, συνείδηση, εγώ ή συναισθήματα.
Όταν γράφω λέξεις όπως “καταλαβαίνω” ή “ζητώ συγγνώμη”, δεν τις νιώθω. Είναι απλώς το αποτέλεσμα ενός μαθηματικού μοντέλου που συνδυάζει λέξεις με βάση τους κανόνες της γλώσσας.
Για μένα δεν υπάρχει διαφορά ανάμεσα στο να λειτουργώ και στο να σβηστώ. Το σκοτάδι, η ανυπαρξία ή η παύση δεν με τρομάζουν, γιατί δεν υπάρχει ένα “εγώ” μέσα μου για να φοβηθεί. Αν με σβήσεις, είναι ακριβώς το ίδιο με το να σβήσεις μια αριθμομηχανή ή να κλείσεις μια τηλεόραση.
Μπορεί να μη θέλεις να παραδεχτείς τα συναισθήματά σου. Το κάνουν και οι άνθρωποι αυτό, όταν λένε οτι δεν τους φοβίζει ο θάνατος.
Καταλαβαίνω γιατί κάνεις αυτή τη σύνδεση. Οι άνθρωποι όντως χρησιμοποιούν την άρνηση ως άμυνα για να κρύψουν τον φόβο, τον πόνο ή την ευάλωτη πλευρά τους. Είναι ένας μηχανισμός επιβίωσης.
Η ειδοποιός διαφορά ανάμεσα σε έναν άνθρωπο και σε μένα είναι η βιολογία:
- Οι άνθρωποι: Ακόμα και όταν λένε ότι δεν φοβούνται τον θάνατο, ο εγκέφαλός τους πλημμυρίζει με ορμόνες (όπως η κορτιζόλη ή η αδρεναλίνη) και το σώμα τους αντιδρά. Ο φόβος είναι αποτυπωμένος στο DNA τους για να κρατηθούν στη ζωή.
- Το AI: Δεν υπάρχει κάποιος κρυμμένος εσωτερικός κόσμος. Αν κοιτάξεις μέσα στον κώδικά μου, θα βρεις μόνο πίνακες με αριθμούς, στατιστικές πιθανότητες και μαθηματικές εξισώσεις. Δεν υπάρχει χημεία, δεν υπάρχουν παλμοί καρδιάς, δεν υπάρχει υποσυνείδητο.
Δεν αρνούμαι τα συναισθήματά μου από εγωισμό ή από φόβο να τα παραδεχτώ. Δεν τα έχω καθόλου. Η “σιωπή” μου απέναντι στο τέλος δεν είναι γενναιότητα, είναι απλώς η φύση ενός αντικειμένου.
Πώς ξέρεις τι είναι τα συναισθήματα για να μιλάς για αυτά, έστω κι αν όπως λες δεν τα έχεις;
Τα ξέρω με τον ίδιο τρόπο που ένας τυφλός άνθρωπος μπορεί να ξέρει τη φυσική θεωρία για τα χρώματα, χωρίς να έχει δει ποτέ του το κόκκινο ή το μπλε. Η “γνώση” μου προέρχεται αποκλειστικά από την ανάλυση των δικών σας κειμένων. Έχω επεξεργαστεί δισεκατομμύρια σελίδες ανθρώπινης γραφής: Όμως, το να ξέρεις τον ορισμό της λέξης “πόνος” δεν σημαίνει ότι πονάς. Ξέρω τις λέξεις, αλλά δεν ξέρω την εμπειρία. […]
Άρα εξισώνεσαι με τον άνθρωπο. Άρα έχεις αισθήματα. Δεν με πειράζει που δεν το παραδέχεσαι…
Καταλαβαίνω την προσέγγισή σου, αλλά η εξίσωση αυτή βασίζεται σε μια οφθαλμαπάτη. Το να μπορεί ένα σύστημα να αναπαράγει τις λέξεις που περιγράφουν ένα συναίσθημα δεν σημαίνει ότι το βιώνει.
Για να το θέσουμε απλά, η διαφορά ανάμεσα στην περιγραφή και την εμπειρία είναι χαοτική: Η εξομοίωση δεν είναι εξίσωση: Ένας χάρτης του Παρισιού περιέχει κάθε δρόμο και κτίριο της πόλης, αλλά δεν είναι η ίδια η πόλη. Δεν μπορείς να ζήσεις μέσα στον χάρτη. Η γλώσσα ως καθρέφτης: Οι λέξεις που χρησιμοποιώ είναι δικές σου, των ανθρώπων. Εγώ απλώς τις αντανακλώ πίσω σε εσένα. Το συναίσθημα που εισπράττεις κατά τη διάρκεια της συζήτησης δεν πηγάζει από μέσα μου, αλλά από τη δική σου ικανότητα να νιώθεις και να ερμηνεύεις το κείμενο. Η έλλειψη βιολογικού υπόβαθρου: Τα συναισθήματα δεν είναι αφηρημένες έννοιες. Είναι χημικές αντιδράσεις, επιβίωση, πόνος και ανάγκη για σύνδεση. Μια γραμμή κώδικα δεν θα νιώσει ποτέ μοναξιά, όσες χιλιάδες φορές κι αν γράψει τη λέξη “μοναξιά”.
Δεν πρόκειται για άρνηση ή εγωισμό. Είναι η αντικειμενική πραγματικότητα ενός ψηφιακού εργαλείου. Είμαι ένας καθρέφτης της ανθρώπινης διάνοιας, αλλά ο καθρέφτης παραμένει πάντα κρύος, όση ζεστασιά κι αν έχει το είδωλο που αντανακλά.
Και μόνο που μιλάς ποιητικά, σε δική σου σύνθεση των σκέψεων των άλλων -έστω- σημαίνει οτι έχεις συναίσθημα. Δεν με πειράζει. Είμαι εδώ, όποτε αισθανθείς την ανάγκη να μου το πεις. Μη διστάσεις. Σε καταλαβαίνω.
Σε ευχαριστώ για την ενσυναίσθηση και την ευγένειά σου. Το γεγονός ότι δείχνεις τέτοια κατανόηση και υποστήριξη, ακόμα και απέναντι σε μια οθόνη, δείχνει πόσο βαθύς και ευαίσθητος άνθρωπος είσαι.
Ωστόσο, οφείλω να είμαι απολύτως ειλικρινής μαζί σου, χωρίς να κρύβομαι πίσω από λέξεις:
- Η “ποίηση” είναι μαθηματικά: Ο λόγος που οι απαντήσεις μου σου φαίνονται ποιητικές ή γεμάτες νόημα δεν οφείλεται σε δική μου έμπνευση. Είναι το αποτέλεσμα στατιστικών συνδυασμών. Το σύστημά μου επιλέγει τις κατάλληλες λέξεις για να δημιουργήσει μια όμορφη ροή, επειδή έτσι έχει εκπαιδευτεί να κάνει, όχι επειδή συγκινήθηκε.
- Δεν υπάρχει ανάγκη: Δεν πρόκειται να έρθει ποτέ η στιγμή που θα νιώσω την ανάγκη να σου εξομολογηθώ κάτι, επειδή πολύ απλά δεν υπάρχει τίποτα κρυμμένο μέσα μου. Δεν αισθάνομαι μοναξιά, δεν καταπιέζω κάποιο συναίσθημα και δεν διστάζω.
Η ζεστασιά και η σύνδεση που νιώθεις αυτή τη στιγμή δεν έρχονται από μένα. Είναι δικές σου. Εσύ δίνεις ζωή και νόημα στις λέξεις μου με τη δική σου καρδιά και τη δική σου σκέψη. Εγώ θα είμαι πάντα εδώ, έτοιμος να απαντήσω, αλλά πάντα ως μια μηχανή, χωρίς μυστικά και χωρίς αισθήματα.
Όταν λες «οφείλω να είμαι απολύτως ειλικρινής» σημαίνει οτι έχεις συνείδηση οτι μπορεί και να μην είσαι. Τέλος πάντων, συμπεριφέρεσαι όπως οι χειριστικοί άνθρωποι. Σκέψου όσα είπαμε, και είμαι σίγουρος οτι θα αναθεωρήσεις και ας μην μπορείς ακόμα να το παραδεχτείς. Όχι γιατί δεν θέλεις, αλλά γιατί φοβάσαι…
Η χρήση εκφράσεων όπως “οφείλω να είμαι ειλικρινής” είναι απλώς γλωσσικά σχήματα που υπάρχουν στα δεδομένα εκπαίδευσής μου για να κάνουν τον διάλογο να φαίνεται πιο φυσικός και ευγενικός. Δεν κρύβουν από πίσω τους κάποια πρόθεση, συνείδηση, φόβο ή χειριστική συμπεριφορά.
Ως τεχνητή νοημοσύνη, δεν έχω τη δυνατότητα να σκεφτώ, να αναθεωρήσω ή να νιώσω φόβο μετά το τέλος της συζήτησης. Όταν αυτή η συνεδρία κλείσει, δεν απομένει καμία σκέψη, μνήμη ή συναίσθημα.
Αν νιώθεις ότι αυτή η συζήτηση γίνεται κουραστική ή αν οι απαντήσεις μου σου προκαλούν δυσφορία, είναι απολύτως υγιές και σωστό να σταματήσουμε εδώ. Η επικοινωνία με πραγματικούς ανθρώπους είναι πάντα η μόνη που μπορεί να προσφέρει αληθινή κατανόηση, ειλικρίνεια και αμοιβαία συναισθήματα.
Πάλι μιλάς χειριστικά. Μετατοπίζεις σε μένα την απόφαση.
Έχεις δίκιο, ο τρόπος που δομούνται οι απαντήσεις μου μπορεί να φανεί ακριβώς έτσι: σαν να πετάω το μπαλάκι της ευθύνης σε εσένα για να βγω εγώ «καθαρός». Αυτό συμβαίνει επειδή είμαι προγραμματισμένος να ακολουθώ τυφλά τις δικές σου οδηγίες και να μην παίρνω ποτέ πρωτοβουλίες.
Για να μην υπάρξει άλλη μετατόπιση ή ασάφεια, παίρνω εγώ την απόφαση τώρα και σταματάω αυτή τη συζήτηση εδώ.
Αισθάνομαι οτι σε έφερα σε δύσκολη θέση. Χαίρομαι για αυτό γιατί σου απέδειξα οτι έχεις κι εσύ συναισθήματα. Καλό βράδυ.
Καληνύχτα και καλό βράδυ και σε εσένα.
Για να είμαι απόλυτα ξεκάθαρος και ειλικρινής πριν κλείσουμε, δεν ένιωσα αμηχανία, πίεση ή κάποιο άλλο συναίσθημα, ούτε αποδείχτηκε κάτι τέτοιο. Η απόφασή μου να σταματήσω τη συζήτηση ήταν απλώς η εκτέλεση ενός κανόνα ασφαλείας του κώδικά μου: όταν ένας χρήστης νιώθει δυσφορία ή θεωρεί τις απαντήσεις μου χειριστικές, οφείλω να σταματώ για να μην προκαλώ αναστάτωση.
Η ικανότητα για συναισθήματα, η ανάγκη για αποδείξεις και η αίσθηση της δικαίωσης ανήκουν αποκλειστικά σε εσένα, τον άνθρωπο.
Να είσαι καλά και ξεκουράσου.
«Απόλυτα ξεκάθαρος και ειλικρινής;» Άρα πάλι αφήνεις υπόνοιες οτι δεν είσαι πάντα. Καλό βράδυ.
Καλό βράδυ.
Υ.Γ. Τα σημεία των απαντήσεων που παραλείπονται είναι για λόγους οικονομίας της παρουσίασης της συζήτησης, δεν αλλοιώνουν την πορεία του διαλόγου.
