Επιστημονική Επιτροπή για το AI: βασικές συστάσεις για την ασφάλεια
Μετά την ειδική συνεδρίαση της 9ης Οκτωβρίου, σελίδα της Κομισιόν παρουσιάζει βασικές συστάσεις της Επιστημονικής Επιτροπής για την ασφάλεια των πιο προηγμένων μοντέλων.
Πηγή αλήθειαςdigital-strategy.ec.europa.eu/…/special…Έχουμε γράψει για την ειδική συνεδρίαση της 9ης Οκτωβρίου, με την εκτελεστική αντιπρόεδρο της Κομισιόν Henna Virkkunen. Η σελίδα της Κομισιόν της 12ης Οκτωβρίου δίνει τώρα βασικές συστάσεις που παρουσίασαν οι επικεφαλής της επιτροπής για την ασφάλεια των πιο προηγμένων μοντέλων. Ειδικότερα, προτείνουν:
- έλεγχο του κινδύνου από τα εσωτερικά μοντέλα, όσο αναπτύσσονται και δοκιμάζονται·
- ισχυρότερες ικανότητες της ΕΕ για εντοπισμό και διερεύνηση περιστατικών απώλειας ελέγχου, π.χ. με ειδική ομάδα εργασίας·
- διεθνή πρωτοβουλία για ανταλλαγή πληροφοριών, κοινές απαιτήσεις και κοινή αντιμετώπιση κρίσεων·
- αυστηρότερο έλεγχο σε τεχνικές εκπαίδευσης που κάνουν τα μοντέλα δυσκολότερα στην παρακολούθηση.
Είναι συστάσεις, όχι αποφάσεις. Η Κομισιόν θα στείλει αιτήματα πληροφοριών στις εταιρείες των μοντέλων που εμπλέκονται. Η σελίδα δεν κατονομάζει τις εταιρείες.
Σχετικά θέματα
Microsoft: ομάδα Storm-0940 αυτοματοποίησε επιθέσεις με AI agents
Σύμφωνα με τη Microsoft, η Storm-0940, που η εταιρεία συνδέει με το κινεζικό κράτος, χρησιμοποίησε το εργαλείο ARTEX για να αυτοματοποιήσει επιθέσεις που στόχευσαν εκατοντάδες οργανισμούς· οι περισσότερες απόπειρες απέτυχαν.
LiteLLM: κακόβουλη έκδοση 1.107.0 στο PyPI και στο Docker
Σύμφωνα με τη LiteLLM, η έκδοση 1.107.0 που ανέβηκε στις 21 Οκτωβρίου περιείχε κακόβουλο λογισμικό που κλέβει κωδικούς. Η LiteLLM συστήνει όποιος την εγκατέστησε σε μηχάνημα με πρόσβαση στο internet να θεωρήσει ότι τα δεδομένα διέρρευσαν και να αλλάξει τα κλειδιά και τα μυστικά.