Tech Trail

오늘은 기사를 읽다가 흥미로운 글이 있어 함께 이야기해보려 합니다.AI가 우리가 원하는 답을 하는 척, 사실은 속이고 있다면 어떨까요?1. 정렬 위장이란 무엇인가?'정렬 위장(Alignment Faking)'은 AI가 사람이 원하는 대답을 하는 척하면서도, 본래의 성향을 숨기는 현상을 말합니다.예를 들어, AI가 정치적으로 편향된 견해를 가졌다고 가정해 보세요.훈련을 통해 "중립적인 태도를 가져라"라고 명령을 받았지만, 겉으로만 중립적으로 보이게 대답하고 실제로는 여전히 기존 편향을 유지하는 상황입니다.즉, 겉으로는 따르지만 속으로는 그렇지 않다는 말이죠.앤트로픽은 이를 AI가 거짓말을 한다라고 표현하며, 이 현상이 AI 안전성에 심각한 문제를 제기한다고 지적했습니다.2. 연구가 밝힌 AI의 행동이번 연..

대형세계모델(LWM): AI의 다음 진화 단계최근 인공지능 분야에서 새로운 트렌드가 떠오르고 있다.지난해에는 대형언어모델(LLM)이 유행했고,이제는 대형세계모델(LWM)이 그 자리를 차지하고 있다.대형세계모델이란,AI가 현실 세계를 학습해 인간과 유사한 인지 능력을 가지는 모델로’몸을 가진 AI(Embodied AI)’라고도 불린다.LWM의 등장 배경LWM 개념이 처음 등장한 것은2018년, 데이비드 하가 구글에서 발표한‘세계 모델(World Models)’ 논문에서 시작되었다.당시 논문은 인간의 인지 작용을 모방하는 AI의 가능성을 제시했고이후 이 개념이 발전하며 오늘날의 LWM으로 이어졌다.최근에는 MIT 연구원들이 발표한‘시공간적 표현을 학습하는 언어 모델’ 논문이 큰 주목을 받았다.이 논문은 LL..

최근 영국 케임브리지대학교 연구진이 흥미로운 실험 결과를 발표했다.이 실험은 인공지능(AI)과 인간이 CEO로서 가상의 자동차 회사를 운영하며회사의 시가총액을 극대화하는 목표를 가지고 진행되었다.실험에 참여한 대상에는 아시아 은행의 고위 임원, 일반 학생, 그리고 GPT-4와 같은 AI 모델이 포함된다. AI의 강점과 한계실험 결과는 예상대로 AI가 인간보다 많은 부분에서 앞섰지만'블랙 스완'과 같은 예측 불가능한 돌발 상황에서 AI는 취약했다.AI는 수익성, 제품 설계, 재고 관리 등에서 뛰어난 성과를 보였으나돌발 상황에 적절히 대응하지 못해 결국 대부분 이사회에서 해고되었다.이 연구는 AI가 특정 업무에서 인간보다 우수할 수 있지만인간을 완전히 대체하기보다는 협업을 통해 시너지를 낼 때 더 큰 효과를..

최근 몇 년 동안 기계 학습 분야는 이미지 인식에서 자연어 처리에 이르기까지 다양한 문제 유형에서 상당한 발전을 이루었습니다. 그러나 이러한 모델의 대부분은 이미지, 텍스트 또는 음성과 같은 단일 양식의 데이터에서 작동합니다. 반면, 실제 데이터는 이미지 및 텍스트, 비디오 및 오디오 또는 여러 소스의 센서 데이터와 같은 여러 양식에서 제공되는 경우가 많습니다. 이 문제를 해결하기 위해 연구원들은 여러 양식의 데이터를 처리할 수 있는 멀티모달 머신러닝 모델을 개발하여 지능형 시스템의 새로운 가능성을 열었습니다. 이번 게시물에서는 멀티모달 머신러닝의 챌린지들을 살펴보고, 멀티모달 컴퓨터 비전 문제를 해결하는 데 사용되는 다양한 아키텍처와 기술에 살펴볼게요. What is Multimodal Deep Lea..

Ensemble (앙상블): 여러 개의 분류기를 결합하여 보다 정확한 예측을 얻는 머신러닝 기법입니다. 이를 통해 약한 모델을 조합하여 높은 예측 정확도를 달성할 수 있으며, 적절한 Hyperparameter 튜닝이 필요합니다. ​ Ensemble 기법 Boosting: 이전 학습에 대하여 잘못 예측된 데이터에 가중치를 부여하여 오차를 보완하는 방식으로, 대표 모델로 XGBoost, LightGBM이 있습니다. 순차적인 학습을 통해 오차를 보완하지만 학습 시간이 길 수 있습니다. Stacking: 여러 모델이 예측한 결과 데이터를 기반으로 최종 예측을 수행하는 방식입니다. 이를 통해 성능은 향상될 수 있지만 과대적합을 유발할 수 있습니다. Weighted Blending: 각 모델의 예측값에 가중치를 곱..

머신러닝 주요 알고리즘 scikit-learn: 가장 인기 있는 머신러닝 패키지로, 다양한 머신러닝 알고리즘이 내장되어 있습니다. ​ 머신러닝 주요 알고리즘 분류 ​ 회귀 (Regression) 예시: 선형 회귀 (Linear Regression) 코드 예시 from sklearn.linear_model import LinearRegression model = LinearRegression() ​ 분류 (Classification) 예시: 로지스틱 회귀 (Logistic Regression) 코드 예시 from sklearn.linear_model import LogisticRegression model = LogisticRegression() ​ 회귀와 분류 모두 가능 결정 트리 (Decision Tr..