Η Google προσπάθησε να υποβαθμίσει τα ευρήματα, υποστηρίζοντας ότι οι περιλήψεις παρέπεμπαν σε αξιόπιστες πηγές και συνιστούσαν τη συμβουλή ειδικού
ΗGoogle απέσυρε μια νέα λειτουργία τεχνητής νοημοσύνης, η οποία παρείχε στους χρήστες ιατρικές συμβουλές βασισμένες σε εμπειρίες απλών ανθρώπων (crowdsourced) από όλο τον κόσμο.
Η εταιρεία είχε δηλώσει αρχικά ότι η κυκλοφορία του «What People Suggest» (Τι Προτείνει ο Κόσμος), το οποίο παρείχε συμβουλές από αγνώστους, αναδείκνυε «τη δυναμική της Τεχνητής Νοημοσύνης να μεταμορφώσει τα αποτελέσματα στον τομέα της υγείας παγκοσμίως». Ωστόσο, σύμφωνα με τρεις πηγές που γνωρίζουν την απόφαση, η Google έκτοτε αφαίρεσε αθόρυβα τη συγκεκριμένη λειτουργία.
Εκπρόσωπος της Google επιβεβαίωσε ότι το «What People Suggest» καταργήθηκε και η κίνηση αυτή έγινε στο πλαίσιο μιας «ευρύτερης απλοποίησης» της σελίδας αναζήτησης και δεν είχε καμία σχέση με την ποιότητα ή την ασφάλεια της νέας λειτουργίας, ανέφερε ο εκπρόσωπος.
Η αποκάλυψη αυτή έρχεται σε μια στιγμή που η εταιρεία αντιμετωπίζει αυξανόμενο έλεγχο για τη χρήση AI στην παροχή ιατρικών πληροφοριών σε εκατομμύρια χρήστες.
Τον Ιανουάριο, έρευνα της εφημερίδας Guardian διαπίστωσε ότι χρήστες διέτρεχαν κίνδυνο λόγω ψευδών και παραπλανητικών πληροφοριών υγείας στα AI Overviews της Google. Αυτές οι περιλήψεις που δημιουργούνται από AI εμφανίζονται σε 2 δισεκατομμύρια ανθρώπους το μήνα, πάνω από τα παραδοσιακά αποτελέσματα αναζήτησης.
Η απάντηση της Google
Αρχικά η εταιρεία προσπάθησε να υποβαθμίσει τα ευρήματα, υποστηρίζοντας ότι οι περιλήψεις παρέπεμπαν σε αξιόπιστες πηγές και συνιστούσαν τη συμβουλή ειδικού. Λίγες μέρες αργότερα, ωστόσο, αφαίρεσε τα AI Overviews για ορισμένα (αλλά όχι όλα) ιατρικά ερωτήματα.
Τον Μάρτιο του περασμένου έτους, σε εκδήλωση στη Νέα Υόρκη, η Google είχε ανακοινώσει το πλάνο της να επεκτείνει τις ιατρικές περιλήψεις AI. Η λειτουργία What People Suggest στόχευε στο να προσφέρει πληροφορίες από άτομα με παρόμοιες βιωματικές ιατρικές εμπειρίες.
«Παρόλο που οι άνθρωποι αναζητούν έγκυρες ιατρικές πληροφορίες από ειδικούς, αξιολογούν επίσης τη γνώμη άλλων που έχουν παρόμοιες εμπειρίες. […] Χρησιμοποιώντας την AI, μπορούμε να οργανώσουμε διαφορετικές απόψεις από διαδικτυακές συζητήσεις σε εύληπτες θεματικές ενότητες. Για παράδειγμα, κάποιος με αρθρίτιδα μπορεί να θέλει να μάθει πώς γυμνάζονται άλλοι με την ίδια πάθηση» είπε η τότε επικεφαλής υγείας της Google, Κάρεν ντε Σάλβο.
