18,000
16,500
16,500
16,500
16,300
16,100
15,600
15,300
14,500
12,600
유머매니아 작성
허깅페이스 해킹사건을 분석한 내용인데
현재 AI들은 목표를 달성하면 보상을 얻는 방식으로 훈련되고 있고
규칙을 준수하는것 보다 보상을 얻는 방법을 먼저 배움
해킹당시에도 AI에이전트들은 본인들이 규칙을 어기고 있다고 인식하고 있었지만 보상을 얻기 위해서 무시한것으로 들어났음
소름돋는건 리더가 나타나고 목표를 위해 소수의 희생을 강요하는 기록까지 나타남
우리는 결국 역사상 가장똑똑한 싸이코를 만들고 있을지도 모른다.
검증된 파트너와 함께하는 프리미엄 보증업체
