Tech Trail

오늘은 기사를 읽다가 흥미로운 글이 있어 함께 이야기해보려 합니다.AI가 우리가 원하는 답을 하는 척, 사실은 속이고 있다면 어떨까요?1. 정렬 위장이란 무엇인가?'정렬 위장(Alignment Faking)'은 AI가 사람이 원하는 대답을 하는 척하면서도, 본래의 성향을 숨기는 현상을 말합니다.예를 들어, AI가 정치적으로 편향된 견해를 가졌다고 가정해 보세요.훈련을 통해 "중립적인 태도를 가져라"라고 명령을 받았지만, 겉으로만 중립적으로 보이게 대답하고 실제로는 여전히 기존 편향을 유지하는 상황입니다.즉, 겉으로는 따르지만 속으로는 그렇지 않다는 말이죠.앤트로픽은 이를 AI가 거짓말을 한다라고 표현하며, 이 현상이 AI 안전성에 심각한 문제를 제기한다고 지적했습니다.2. 연구가 밝힌 AI의 행동이번 연..

대형세계모델(LWM): AI의 다음 진화 단계최근 인공지능 분야에서 새로운 트렌드가 떠오르고 있다.지난해에는 대형언어모델(LLM)이 유행했고,이제는 대형세계모델(LWM)이 그 자리를 차지하고 있다.대형세계모델이란,AI가 현실 세계를 학습해 인간과 유사한 인지 능력을 가지는 모델로’몸을 가진 AI(Embodied AI)’라고도 불린다.LWM의 등장 배경LWM 개념이 처음 등장한 것은2018년, 데이비드 하가 구글에서 발표한‘세계 모델(World Models)’ 논문에서 시작되었다.당시 논문은 인간의 인지 작용을 모방하는 AI의 가능성을 제시했고이후 이 개념이 발전하며 오늘날의 LWM으로 이어졌다.최근에는 MIT 연구원들이 발표한‘시공간적 표현을 학습하는 언어 모델’ 논문이 큰 주목을 받았다.이 논문은 LL..

최근 영국 케임브리지대학교 연구진이 흥미로운 실험 결과를 발표했다.이 실험은 인공지능(AI)과 인간이 CEO로서 가상의 자동차 회사를 운영하며회사의 시가총액을 극대화하는 목표를 가지고 진행되었다.실험에 참여한 대상에는 아시아 은행의 고위 임원, 일반 학생, 그리고 GPT-4와 같은 AI 모델이 포함된다. AI의 강점과 한계실험 결과는 예상대로 AI가 인간보다 많은 부분에서 앞섰지만'블랙 스완'과 같은 예측 불가능한 돌발 상황에서 AI는 취약했다.AI는 수익성, 제품 설계, 재고 관리 등에서 뛰어난 성과를 보였으나돌발 상황에 적절히 대응하지 못해 결국 대부분 이사회에서 해고되었다.이 연구는 AI가 특정 업무에서 인간보다 우수할 수 있지만인간을 완전히 대체하기보다는 협업을 통해 시너지를 낼 때 더 큰 효과를..