Το «πράσινο φως» πήρε η καινοτόμα τεχνολογία Night Nurse της Kepler Vision Tehnologies από τον ανεξάρτητο έλεγχο ύπαρξης μεροληψιών που πραγματοποίησε η Code4Thought, εταιρεία εκτέλεσης ελέγχων συστημάτων ΑΙ.
Το «Trustworthy AI» είναι μια σημαντική τάση της εποχής, καθώς εμφανίζονται όλο και περισσότερες εφαρμογές και υπηρεσίες που χρησιμοποιούν τις δυνατότητες της τεχνητής νοημοσύνης. Η ανάγκη για μια τεχνητή νοημοσύνη, για αμερόληπτες εφαρμογές της που θα εμπνέουν το αίσθημα ασφάλειας και εμπιστοσύνης σε επιχειρήσεις και καταναλωτές είναι βασικό ζητούμενο των ημερών. Πόσο μάλλον για σημαντικές υπηρεσίες, όπως η φροντίδα και η επίβλεψη της ευημερίας των ασθενών σε ένα επαγγελματικό περιβάλλον περίθαλψης, που εκτελεί η τεχνολογία Night Nurse της Kepler.
Βασιζόμενη στην τεχνολογία PyThia, η εταιρεία Code4Thought εξέτασε τον αλγόριθμο Kepler Night Nurse (KNN) για το ενδεχόμενο ύπαρξης μεροληψίας στις αποφάσεις/ειδοποιήσεις του. Βασιζόμενος στην ανίχνευση ανθρώπινης δραστηριότητας με τη χρήση μηχανικής μάθησης, ο καινοτόμος αλγόριθμος ΚΝΝ, ειδοποιεί άμεσα το προσωπικό κάθε φορά που ανιχνεύει πτώση κάποιου ασθενή της μονάδας περίθαλψης ή όταν εκείνος/η αισθάνεται δυσφορία, με σκοπό να λάβει τη φροντίδα που χρειάζεται, την στιγμή που τη χρειάζεται. Η διαδικασία αυτή εξαλείφει την ανάγκη συνεχών ελέγχων των ασθενών και τον χαμένο χρόνο που σχετίζεται με ψευδείς ειδοποιήσεις που παρέχουν άλλα συστήματα παρακολούθησης.
Ως ο πρώτος στον κόσμο ανιχνευτής πτώσης βασισμένος στην μηχανική όραση, και κατηγοριοποιούμενος ως ιατρική συσκευή, ο αλγόριθμος βαθιάς μάθησης της Kepler, Night Nurse, απαιτεί προσεκτικό έλεγχο για την διασφάλιση παραγωγής αντικειμενικών και ακριβών αποτελεσμάτων για κάθε ασθενή που παρακολουθεί.
Για αυτόν τον λόγο επιλέχτηκε η εταιρεία Code4Thought της οποίας η τεχνολογία PyThia βασίζεται στο πρότυπο - ISO-29119-11 που έχει σχεδιαστεί για τον έλεγχο συστημάτων AΙ ώστε να διασφαλιστεί η ορθότητα και η ακρίβειά τους. Το αποτέλεσμα της ανάλυσης απέδειξε ότι ο αλγόριθμος KNN είναι σε θέση να παράγει σωστές και δίκαιες προβλέψεις ανεξάρτητα από το φύλο του ασθενούς. Η αξιολόγηση επίσης της Code4Thought ολοκληρώθηκε με την παροχή συμβουλών για το πως η Kepler Vision Technologies μπορεί να διασφαλίσει τη χρήση συνόλων δεδομένων τα οποία να προάγουν την προστασία από μεροληψίες και ανισότητες στον τομέα της υγειονομικής περίθαλψης, ο οποίος αποτελείται από ήδη ευάλωτα δημογραφικά στοιχεία.
Ο κος Harro Stokman, Διευθύνων Σύμβουλος της Kepler Vision Technologies, δήλωσε: «Καθώς αυξάνεται η σημαντικότητα των αποφάσεων που λαμβάνονται από τα συστήματα AI, αυξάνεται και η ανάγκη διασφάλισης ότι λειτουργούν με αντικειμενικότητα και διαφάνεια. Δύο ιδιότητες που είναι ζωτικής σημασίας ειδικά στον τομέα των ιατρικών συσκευών, όπου οι κρίσεις των εργαλείων AI μπορούν, κυριολεκτικά, να αποτελούν ζήτημα ζωής και θανάτου. Η πρόταση της Ευρωπαϊκής Επιτροπής για μία νομοθεσία σχετικά με τα συστήματα AI καθιστά σαφές ότι οι εταιρείες που χρησιμοποιούν αλγόριθμους βαθιάς μάθησης με υψηλή πολυπλοκότητα και αδιαφάνεια μπορούν να προβούν σε περαιτέρω ενέργειες ώστε να επιτευχθεί η δόμηση εμπιστοσύνης στα συστήματα AI. Δουλεύοντας με την Code4Thought, η Kepler Vision επιβεβαιώνει την αφοσίωσή της στη βελτίωση της ζωής όλων των ασθενών στους οποίους εφαρμόζεται η τεχνολογία της, ανεξάρτητα από τις ατομικές διαφορές που έχουν μεταξύ τους».
Ο Γιάννης Κανελλόπουλος, ιδρυτής της Code4Thought δήλωσε: «Ειδικά στον ιατρικό τομέα, οι αλγόριθμοι που έχουν διαμορφωθεί με λάθος τρόπο οδηγούν σε ανακρίβειες και μεροληψίες που μπορεί να έχουν δυνητικά καταστροφικές συνέπειες. Για τον λόγο αυτό, για κάθε εταιρεία που χρησιμοποιεί συστήματα AI, η διασφάλιση ότι οι αλγόριθμοί της ανταποκρίνονται στο υψηλότερο επίπεδο ανεξάρτητου ελέγχου θα πρέπει να αποτελεί προτεραιότητα. Η συνεργασία με ομάδες και οργανισμούς, όπως η Kepler, που εκτιμούν την ανάπτυξη αξιόπιστης τεχνολογίας AI, την οποία μπορούν να εμπιστευτούν οι επιχειρήσεις και τα άτομα, μας δημιουργεί χαρά και ικανοποίηση. Είναι ενθαρρυντικό να διαπιστώνεται ότι πίσω από ένα σύστημα AI υψηλής ποιότητας, υπάρχει μια αντίστοιχη υψηλής ποιότητας ομάδα μηχανικών που εργάζεται με τον επαγγελματισμό που απαιτεί η επιστήμη δεδομένων».
