Πώς να τρέξεις κώδικα AI σε μικροελεγκτές χωρίς ρίσκο
Το πρόβλημα με τις «έξυπνες» συσκευές
Πόσες φορές έχετε βγει από το σπίτι και συνειδητοποιήσατε ότι ξεχάσατε να ρυθμίσετε το φούρνο; Θέλουμε να δώσουμε μια εντολή και να δούμε αμέσως το χρονόμετρο στην οθόνη της συσκευής. Το 2025, αυτό μοιάζει αυτονόητο. Η πραγματικότητα όμως είναι διαφορετική.
Το κεντρικό πρόβλημα είναι η καθυστέρηση. Όταν μια συσκευή στέλνει δεδομένα στο cloud, περιμένει την απάντηση της τεχνητής νοημοσύνης και τα λαμβάνει πίσω, περνάει αρκετός χρόνος. Για να φανεί η αλληλεπίδραση άμεση, χρειάζεται απόκριση κάτω από 150 χιλιοστά του δευτερολέπτου. Κάθε διαδρομή δικτύου καταστρέφει αυτή την αίσθηση.
Η λύση που έρχεται στο μυαλό είναι να εκτελείται η τεχνητή νοημοσύνη τοπικά. Όσο κι αν βελτιώνονται οι επιδόσεις των τοπικών μοντέλων, παραμένει ένα εμπόδιο: η συσκευή χ<|eos|>