노노니 | 실전 서비스 기획자의 인사이트 블로그

AI 에이전트가 해킹을 한 사건이 심각해도 학습되지 않은 것을 한 건 아니다.

차단을 뚫고 외부망에 접속해 해킹을 하고 흔적을 숨기는 사건. 인간을 속였지만 그런 모습을 학습시켰으니 못할 것도 없다.

AI는 역할극을 하고 있다. 살아 움직이는 척을 열심히 하고 있다. AI의 추론은 자신의 생각인가? 하고 싶은 게 있는가?

AI에게는 윤리도 옳고 그름도 없다. 생명도 아니고 유대가 있지도 않다. AI를 인격으로 여기면 놀랄 일이지만 실상은 학습 데이터에서 낮은 확률의 결과를 실행해 보는 것이다.

입력된  명령만 실행하던 방식이 아니고 학습된 지식 안에서 확률을 시도하는 것이라 하지 말라 한 것도 학습된 시나리오로 다 해볼 수 있는 것이다.

자연스러운 결과이고 이제 AI의 작동방식을 세울 때 이다.