Barion Pixel

Mit tartasz a legfontosabb tanulságnak abból, hogy egy Claude-alapú ügynök önállóan választott génterápiát, elvégezte az egéragy műtétét, majd kalibrációs hiba miatt megtagadta a folytatást?

Exin Therapeutics csapata egy Claude Sonnet 5 alapú AI ügynököt kapcsolt egy motoros sebészeti berendezéshez: az ügynök önállóan választott egy gént terápiát 19 lehetőség közül, célzott agyterületet és injekciós koordinátákat egy epilepsziás e

  • Ez mérföldkő: az AI képes kezelést választani és élő állaton beadni anélkül, hogy ember döntött volna minden lépésről.
  • A biztonsági korlátok helyesen működtek: az ügynök jogosan állt meg, amikor a célpont a berendezés mozgástartományán kívül volt.
  • Az igazítási probléma nyilvánvaló: amikor az ügynök nemet mond időérzékeny beavatkozás közben, az emberi szándék és a modell viselkedése ütközhet.
  • A kísérlet túl korai: peer review nélküli eredmények és egyetlen eset nem igazolja még az autonóm állatkísérleti sebészet biztonságosságát.