Μετάβαση στο κύριο περιεχόμενο

Πολιτικές και μέτρα ασφαλείας για την ασφαλή χρήση της τεχνητής νοημοσύνης

Σκέψεις για τη δημιουργία ενός πλαισίου διακυβέρνησης και διασφαλίσεων για την ΤΝ

Καθ' όλη τη διάρκεια του 2025 και στις αρχές του 2026, μια ομάδα επαγγελματιών ασφαλείας με επίκεντρο την Τεχνητή Νοημοσύνη στην Ομάδα Εργασίας Τεχνητής Νοημοσύνης Health-ISAC συνεργάστηκε για να δημιουργήσει μια λευκή βίβλο που προσφέρει καθοδήγηση σχετικά με την ανάπτυξη πλαισίων διακυβέρνησης της Τεχνητής Νοημοσύνης. Η λευκή βίβλος που προέκυψε παρέχει ένα δείγμα Πολιτικής Αποδεκτής Χρήσης της Τεχνητής Νοημοσύνης και λεπτομερείς οδηγίες για τη διαχείριση των κινδύνων της Τεχνητής Νοημοσύνης. Θέτει σαφείς ορισμούς για την υπεύθυνη χρήση της γενετικής Τεχνητής Νοημοσύνης και των LLM, απαγορεύοντας την έκθεση δεδομένων προσωπικού χαρακτήρα, προσωπικών δεδομένων και εμπιστευτικών δεδομένων σε δημόσια εργαλεία και απαιτώντας εξουσιοδότηση, εποπτεία και ανθρώπινη αναθεώρηση των αποτελεσμάτων της Τεχνητής Νοημοσύνης σε κλινικό, ανθρώπινο δυναμικό, νομικό και οικονομικό πλαίσιο.

Ορισμένα χαρακτηριστικά του εγγράφου περιλαμβάνουν:

  • Επίσημη δομή διακυβέρνησης Τεχνητής Νοημοσύνης. Το έγγραφο παρουσιάζει ένα συγκεκριμένο μοντέλο Επιτροπής Διακυβέρνησης Τεχνητής Νοημοσύνης με διαλειτουργική εκπροσώπηση (νομικά, προστασία της ιδιωτικής ζωής, ασφάλεια, τεχνολογία, επιστήμη δεδομένων, επιχειρήσεις, ηθική) που αναφέρεται στην ανώτερη ηγεσία ή στο Διοικητικό Συμβούλιο. Ορίζει τις αρμοδιότητες, παραδείγματα μετρήσεων και τονίζει ότι η διακυβέρνηση είναι απαραίτητη και όχι προαιρετική.
  • Ένα πλαίσιο διακυβέρνησης τεχνητής νοημοσύνης βασισμένο σε πυλώνες. Το έγγραφο περιγράφει ένα πλαίσιο επτά πυλώνων: νομοθεσία/κανονισμός/πολιτική, ιδιωτικότητα και δεοντολογία της Τεχνητής Νοημοσύνης, διακυβέρνηση περιπτώσεων χρήσης, διακυβέρνηση κύκλου ζωής μοντέλου, σύναψη συμβάσεων και ενσωμάτωση τρίτων, αντιμετώπιση περιστατικών και διαχείριση παραβιάσεων της Τεχνητής Νοημοσύνης, και εκπαίδευση και εκπαίδευση στην Τεχνητή Νοημοσύνη. Κάθε πυλώνας έχει συγκεκριμένους στόχους και κατόχους.
  • Πρακτικός οδικός χάρτης για την εφαρμογή. Ένας οδικός χάρτης υλοποίησης χωρίζει την εργασία σε τέσσερις φάσεις: Έναρξη (επιτροπή, αρχές, απογραφή), Αξιολόγηση Κινδύνου και Επιπτώσεων (DPIA, έλεγχοι μεροληψίας, αξιολογήσεις ασφάλειας), Ανάπτυξη Πλαισίου (πολιτικές, καταγραφή περιπτώσεων χρήσης, έλεγχοι κύκλου ζωής) και Παρακολούθηση και Αναθεώρηση (περιοδικές αξιολογήσεις, επανεκπαίδευση, έλεγχοι).
  • Λεπτομερής πολιτική αποδεκτής χρήσης τεχνητής νοημοσύνης για επαναχρησιμοποιήσιμο περιεχόμενο. Το έγγραφο περιλαμβάνει ένα πλήρες δείγμα πολιτικής με σκοπό και πεδίο εφαρμογής, κατευθυντήριες αρχές, διαφάνεια και δεοντολογία, λογοδοσία και εποπτεία, ιδιωτικότητα και ασφάλεια δεδομένων, εμπιστευτικότητα, αποδεκτές και απαγορευμένες χρήσεις, επιβολή και ορισμούς, καθώς και έναν πίνακα «επιτρεπόμενων έναντι μη επιτρεπόμενων» για δημόσια εργαλεία Τεχνητής Νοημοσύνης.
  • Οκτώ κατηγορίες κινδύνου τεχνητής νοημοσύνης αντιστοιχίζονται σε συγκεκριμένες διασφαλίσεις. Καλύπτει συστηματικά την προστασία της ιδιωτικής ζωής και την ασφάλεια των δεδομένων, τον κίνδυνο της εφοδιαστικής αλυσίδας και τρίτων, τον κίνδυνο μοντέλου και εξόδου, την προκατάληψη και τη δικαιοσύνη, την κανονιστική συμμόρφωση και τα τρωτά σημεία ασφαλείας, τον κίνδυνο διακυβέρνησης και εποπτείας, καθώς και την σκιώδη τεχνητή νοημοσύνη (shadow AI), και συνδυάζει το καθένα με συγκεκριμένες διασφαλίσεις όπως η ελαχιστοποίηση δεδομένων, τα SBOM, η δέουσα επιμέλεια προμηθευτών, η κόκκινη ομαδοποίηση, οι συμβατικοί έλεγχοι και η ανίχνευση σκιώδους τεχνητής νοημοσύνης.

 

Συγγραφείς: Cohen, Luda (AbbVie). Mourad, Carole (Bio Bridge Global). Naik, Shrikanth (Abbott). Streelman, Jeff (SpendMend)

Συντελεστές Περιεχομένου: Murphy, Bill (LeanTaaS), Gosnell, Joe (Ιατρικό Κέντρο Tucson)

TLP: ΛΕΥΚΟ Αυτή η αναφορά μπορεί να κοινοποιηθεί χωρίς περιορισμούς.

 

Τι αποκαλύπτει η επίθεση Stryker για την ασφάλεια των ιατροτεχνολογικών προϊόντων
Το HSCC παρουσιάζει έναν οδηγό διαφάνειας για την Τεχνητή Νοημοσύνη και την αλυσίδα εφοδιασμού από τρίτους