Skip to main content

ხელოვნური ინტელექტის უსაფრთხო გამოყენების პოლიტიკა და უსაფრთხოების ზომები

ხელოვნური ინტელექტის მმართველობისა და დაცვის ჩარჩოს შექმნის გასათვალისწინებელი საკითხები

2025 წლის განმავლობაში და 2026 წლის დასაწყისში, Health-ISAC ხელოვნური ინტელექტის სამუშაო ჯგუფის ხელოვნურ ინტელექტზე ორიენტირებული უსაფრთხოების სპეციალისტების გუნდი შეიკრიბა, რათა შეექმნათ ტექნიკური დოკუმენტი, რომელიც ხელოვნური ინტელექტის მმართველობის ჩარჩოების შემუშავების სახელმძღვანელო პრინციპებს გვთავაზობდა. შედეგად მიღებული ტექნიკური დოკუმენტი წარმოადგენს ხელოვნური ინტელექტის მისაღები გამოყენების პოლიტიკის ნიმუშს და დეტალურ სახელმძღვანელო პრინციპებს ხელოვნური ინტელექტის რისკების მართვის შესახებ. იგი ადგენს გენერაციული ხელოვნური ინტელექტისა და LLM-ის პასუხისმგებლიანი გამოყენების მკაფიო განმარტებებს, კრძალავს პირადი ინფორმაციის, პირადი ინფორმაციის და კონფიდენციალური მონაცემების საჯარო ინსტრუმენტებზე გაშუქებას და მოითხოვს ხელოვნური ინტელექტის შედეგების ავტორიზაციას, ზედამხედველობას და ადამიანურ მიმოხილვას კლინიკურ, ადამიანური რესურსების, იურიდიულ და ფინანსურ კონტექსტში.

დოკუმენტის ზოგიერთი მახასიათებელი მოიცავს:

  • ხელოვნური ინტელექტის მმართველობის ფორმალური სტრუქტურა. ნაშრომში წარმოდგენილია ხელოვნური ინტელექტის მმართველობის კომიტეტის კონკრეტული მოდელი, რომელიც მოიცავს ფუნქციურ ნაწილებს (იურიდიული, კონფიდენციალურობის, უსაფრთხოების, ტექნოლოგიების, მონაცემთა მეცნიერების, ბიზნესის, ეთიკა), და რომელიც ანგარიშვალდებულია უფროსი ხელმძღვანელობის ან საბჭოს წინაშე. იგი განსაზღვრავს პასუხისმგებლობებს, მაგალითებს და ხაზს უსვამს, რომ მმართველობა აუცილებელია და არა არჩევითი.
  • სვეტებზე დაფუძნებული ხელოვნური ინტელექტის მმართველობის ჩარჩო. დოკუმენტი აღწერს შვიდსვეტიან ჩარჩოს: კანონმდებლობა/რეგულაცია/პოლიტიკა, ხელოვნური ინტელექტის კონფიდენციალურობა და ეთიკა, გამოყენების შემთხვევების მართვა, მოდელის სასიცოცხლო ციკლის მართვა, კონტრაქტების გაფორმება და მესამე მხარის ინტეგრირება, ხელოვნური ინტელექტის ინციდენტებზე რეაგირება და დარღვევების მართვა, და ხელოვნური ინტელექტის ტრენინგი და განათლება. თითოეულ სვეტს აქვს კონკრეტული მიზნები და მფლობელები.
  • განხორციელების პრაქტიკული გზამკვლევი. განხორციელების გზამკვლევი სამუშაოს ოთხ ფაზად ყოფს: დაწყება (კომიტეტი, პრინციპები, ინვენტარი), რისკისა და ზემოქმედების შეფასება (DPIA, მიკერძოების აუდიტი, უსაფრთხოების მიმოხილვები), ჩარჩოს დანერგვა (პოლიტიკა, გამოყენების შემთხვევების რეგისტრაცია, სასიცოცხლო ციკლის კონტროლი) და მონიტორინგი და მიმოხილვა (პერიოდული მიმოხილვები, გადამზადება, აუდიტები).
  • დეტალური, მრავალჯერადი გამოყენების ხელოვნური ინტელექტის მისაღები გამოყენების პოლიტიკა. ნაშრომი მოიცავს პოლიტიკის სრულ ნიმუშს, სადაც მოცემულია მიზანი და მოქმედების სფერო, სახელმძღვანელო პრინციპები, გამჭვირვალობა და ეთიკა, ანგარიშვალდებულება და ზედამხედველობა, მონაცემთა კონფიდენციალურობა და უსაფრთხოება, კონფიდენციალურობა, მისაღები და აკრძალული გამოყენება, აღსრულება და განმარტებები, პლუს ცხრილი საჯარო ხელოვნური ინტელექტის ინსტრუმენტებისთვის „დაშვებული და არადაშვებული“ მაჩვენებლებით.
  • ხელოვნური ინტელექტის რვა რისკის კატეგორია კონკრეტულ დაცვის ზომებთან არის დაკავშირებული. ის სისტემატურად მოიცავს მონაცემთა კონფიდენციალურობას და უსაფრთხოებას, მიწოდების ჯაჭვისა და მესამე მხარის რისკებს, მოდელისა და გამომავალი პროდუქტის რისკს, მიკერძოებასა და სამართლიანობას, მარეგულირებელ და შესაბამისობის რისკებს, უსაფრთხოების დაუცველობებს, მმართველობისა და ზედამხედველობის რისკებს და ჩრდილოვან ხელოვნურ ინტელექტს და თითოეულ მათგანს აკავშირებს კონკრეტულ დაცვის მექანიზმებთან, როგორიცაა მონაცემთა მინიმიზაცია, SBOM-ები, მომწოდებლის სათანადო შემოწმება, წითელი გუნდური მუშაობა, სახელშეკრულებო კონტროლი და ჩრდილოვანი ხელოვნური ინტელექტის გამოვლენა.

 

ავტორები: კოენი, ლუდა (AbbVie); მურადი, კეროლი (Bio Bridge Global); ნაიკი, შრიკანტი (Abott); სტრელმანი, ჯეფი (SpendMend)

კონტენტის ავტორები: მერფი, ბილი (LeanTaaS), გოსნელი, ჯო (ტუსონის სამედიცინო ცენტრი)

TLP: თეთრი. ეს ანგარიში შეიძლება გაზიარდეს შეზღუდვის გარეშე.

 

რას ამჟღავნებს Stryker-ის თავდასხმა სამედიცინო მოწყობილობების უსაფრთხოების შესახებ
HSCC მესამე მხარის ხელოვნური ინტელექტის რისკებისა და მიწოდების ჯაჭვის გამჭვირვალობის სახელმძღვანელოს წარმოგიდგენთ