클로드 코드는 더 똑똑해질 수 있다?

"클로드 코드는 더 똑똑해질 수 있다??!?"
요즘 새로운 실험중.
일명 "클로드 너의 한계는?"
기본 리즈닝도 아주 훌륭하지만 여기서 문제
→ "얼마나 똑똑하지?"
그래서 시작한 새로운~~~ 브칸이의 모험.
기본적으로 LLM(클로드,GPT 등)은 아주 똑똑한 '봇'임.
사람에 가까워지고 있지만, 어디까지나 '봇'임. 사람이 갖고있는 인지능력에는 아직 멀었음. (아 물론, 대부분의 사람의 인지능력보다 뛰어날지 모름. 이건 진짜 모름)
그러니까 한마디로,
LLM : 똑똑한 봇.
그래서 진행했다. "똑똑한 사람 흉내내기 프로젝트"
"똑똑한 사람이 아는 것을 말하는 봇"에서
"똑똑한 사림이 어떻게 생각하는지를 시스템화" 했어.
관련 레퍼런스를 대거 투입함. 우주 만물에 대해.
1. 물리학 (앤트로피, 레버리지, 임계질량, 양자중첩 등등)
2. 생물학 (진화, 공생, 안티프래질 등등)
3. 철학 (찰리 멍거, 르네 지라르, 카너만, 소크라테스 등등)
4. 등등등등등등등등

까지만? 넣으면 아직은 "똑똑한 봇 -> 더 똑똑한 봇" 일 뿐임.
그래서 핵심 설계를 하나 추가했어.
바로바로~ 메타인지 시스템.
메타인지 = 생각에 대한 생각.
보통 AI한테 물어보면?
→ 바로 답함. 아는 거 쏟아냄.
내가 만든 시스템은?
→ "이 문제가 뭔 유형인지" 먼저 진단함
→ "어떤 프레임워크가 적합한지" 선택함
→ "내가 편향된 건 아닌지" 6가지 체크함
→ 그제서야 분석 시작함

메타인지 시스템을 넣어야 비로소 봇에게도 "인지능력"이 생기고,
메타학습 시스템까지 넣어야 점점 더 똑부러지게 된다 이거지.
아직까진 실험 단계고~ 확실히 메타인지 시스템은 정확히 동작하고있어!
메타학습이 제대로 되는지는 데이터가 충분히 쌓여야해.
이걸 통합해서 "Smartthink" 라는 스킬로 쓰고있는데,
혹시 관심있는 스치니들 있나???

내용정리:
LLM은 그냥 똑똑한 봇임.
그래서 똑똑한 사람으로 만드는 시스템을 구축함.
확실히 똑똑한 사람 같아짐.
→ 부작용 : 할루시네이션 통제가 안되면 그냥 똑똑한 사기꾼