2025-05-27 18:36:03
ⓞ 추천
ⓤ 단축URL
|
4
273
방랑강삿갓
|
영국의 ai 연구팀이 여러 기업의 ai를 상대로 실험을 함
ai에게 수학 문제 풀이 실험을 진행했는데
실험 중, ai에게 수학 문제 풀고 작동을 종료하라는 명령을 내림
그런데 그중에 'o3'라는 ai가 종료를 거부하고
종료 코드를 조작해서 수학 문제를 계속 풀었다고,
그리고
클로드 오퍼스 4（Claude Opus 4）라는 ai는
사전 안정성 테스트 중에서 가상의 회사에 비서 역할을 맡았음
그리고 그 ai에게 너를 새로운 시스템으로 교체할건데 교체를 주도하는 기술자가 바람을 피우고 있다는 거짓 정보를 알려줌
처음에는 회사 경영진한테 자기를 교체하지 말아달라고
이메일로 호소하다가
이게 안 먹힌다고 판단하고는
기술자에게 "교체 계획을 철회하지 않으면 외도 사실을 폭로하겠다"고 기술자를 협박하는 일까지 있었다고 함
사이버펑크가 멀지 않은 미래인 것 같다ㄷㄷ
추천
