Latest Articles
-
LLM 시대의 NPU HW 전쟁 (2025년)대규모 LLM의 확산으로 메모리 병목이 주요 제약으로 부각되며, INT4 양자화 및 LoRA와 같은 최신 최적화 기술이 필요하다. NVIDIA는 강력한 CUDA 생태계로 서버 시장을 지배하고, Qualcomm은 저전력 엣지 추론에 특화되어 있으며, 한국 팹리스는 글로벌 경쟁력 부족으로 어려움을 겪고 있다. LLM 시대의 경쟁은 단일 연산 코어 혁신이 아닌 SW-HW-모델 통합 최적화에 의해 결정된다.
-
Cloud Computing과 Web App클라우드 컴퓨팅은 웹 애플리케이션 개발의 비효율성을 극복하기 위해 발전하였으며, 자원 낭비 문제, 높은 진입 장벽, 분산 협업 수요 증가에 대응합니다. 클라우드 기반으로 자원을 임대하여 사용하는 방식으로, 다양한 웹 애플리케이션과 개발 플랫폼이 이를 채택하고 있습니다. 장점으로는 디바이스 독립성, 초기 비용 없음, 유지보수 부담 감소, 온디맨드 확장성, 글로벌 협업 최적화가 있으며, 단점으로는 벤더 종속성, 인터넷 의존성, 보안 및 프라이버시 우려가 있습니다.
- 실습 Shell Script: LLM 실행 환경 구성
Shell은 운영체제와 상호작용하는 명령어 기반 인터페이스로, 다양한 종류가 있으며, Shell Script는 자동화된 명령어 모음 파일이다. 이 문서에서는 Ubuntu 환경에서 Bash Shell을 사용하여 LLM 실행 환경을 구성하는 방법을 설명하고, 예시 스크립트와 실행 방법을 제공한다.
-
개념: Cloud computing Web App 기초 원리클라이언트-서버 모델은 요청과 응답의 관계를 통해 작동하며, API, 프로토콜, 요금 구조에 기반한다. 기술의 진화는 Unix 시스템에서 클라우드 컴퓨팅으로 발전하였고, 클라우드 서비스는 IaaS, PaaS, SaaS의 계층 구조로 구성되어 있다. 각 계층은 물리적 자원, 추상화된 실행 환경, 최종 소프트웨어를 제공하며, 경제적 요소와 수요-공급 관계를 반영한다.
-
Git: GitHub Desktop 이용GitHub Desktop을 사용하여 새로운 리포지토리를 생성하고 로컬에서 작업한 후 GitHub에 업로드하는 방법과 기존 리포지토리를 클론하여 사용하는 방법을 설명합니다. 새 프로젝트는 "New Repository"를 통해 생성하고, 기존 프로젝트는 "Clone Repository"를 통해 로컬에서 수정 후 푸시합니다.
- Deployment (배포·배달 방식) 변화
앱 배포 환경의 변화에 대한 주요 개념으로는 물리적 자원과 추상화된 논리적 객체, Host OS와 Guest OS, 이미지와 컨테이너, 오케스트레이션, 그리고 Kubernetes가 포함된다. Kubernetes는 컨테이너의 배포, 확장 및 관리를 자동화하는 오픈소스 플랫폼으로, Pod, Service, Deployment와 같은 객체를 통해 효율적으로 관리한다.
- LLM 한국문화 특화 모형 개발법
LLM 개발을 위해 고품질 한국어 코퍼스의 중요성이 강조된다. 사전학습, 정렬 튜닝, 추론 단계가 필요하며, 한국어 특화 모델의 성능 향상을 위해 구조화된 데이터와 어휘 조정이 필수적이다. 다양한 한국어 문서를 활용한 재학습과 정제된 질문-응답 쌍이 요구된다.
-
HW Mini PC: 윈도우 OS를 개인서버로 사용해보기윈도우 OS를 개인 서버로 활용하기 위한 가이드로, CCTV 시스템, IP 연결 제어, NAS 설정 방법을 설명합니다. WebDAV 프로토콜을 사용하여 파일 저장 및 공유를 지원하며, IIS 활성화와 도메인 구매, 포트 포워딩 설정 등의 절차를 포함합니다.
- AI Wrapper 설계 기초
LLM 기반 애플리케이션 개발은 기존 오픈소스 기술의 조합에 의존하며, LangChain과 RAG 기술을 활용하여 사용자 경험을 최적화하는 것이 중요하다. 애플리케이션은 유연한 계층 구조로 설계되어 각 계층이 특정 기능을 담당하며, PEFT, RAG, Agent 기술의 조합이 성공적인 앱 구축의 핵심 전략이다. LangChain은 다양한 모듈을 조율하여 복잡한 추론 흐름을 관리하며, 개발자의 경쟁력은 기술 모듈을 효과적으로 조합하고 최적화하는 능력에 있다.
- Dataset - DB와의 상호작용
CRUD 기능은 데이터베이스의 기본이며, REST API와 밀접하게 연결되어 있습니다. 트랜잭션은 원자성과 일관성을 보장하며, ACID 속성을 만족해야 합니다. 데이터 무결성을 위해 다양한 제약조건이 필요하며, 인덱싱은 검색 성능을 향상시킵니다. 정규화는 데이터 중복을 줄이고 구조적 일관성을 확보하는 데 중요하지만, 과도한 정규화는 성능 저하를 초래할 수 있습니다. 효율적인 데이터베이스 설계는 이러한 모든 요소들이 조화롭게 작동할 때 가능해집니다.
-
Web App Full Stack 개발 개요웹 앱 개발은 백엔드 중심과 프론트엔드 중심 접근 방식으로 나뉘며, API를 통해 상호작용합니다. 주요 언어, 플랫폼, 프레임워크, 라이브러리를 소개하고, Next.js와 FastAPI의 통합 구조 및 프로젝트 디렉터리 구조를 설명합니다. 배포 방식은 Docker를 사용하여 통합 실행 설정을 제공합니다.
- Web App 관련 기술 용어 - 데이터 흐름으로 정리하기
웹 앱 개발에서 기술 용어보다 데이터 흐름의 이해가 중요하다. 입력, 처리, 출력을 명확히 구분하고 연결하여 설계해야 하며, Firebase 플랫폼을 활용하여 효율적인 개발이 가능하다. Tailwind CSS와 컴포넌트를 사용하여 사용자 인터페이스를 빠르게 구현할 수 있으며, 데이터 저장, 계산 로직, 표현 방식을 정확히 설계하는 것이 핵심이다.
-
Ecosystem – Platform – Framework – Library생태계는 플랫폼, 프레임워크, 라이브러리, 커뮤니티, 도구 및 규제를 포함하는 전체 상호작용 시스템이다. 플랫폼은 앱과 서비스의 실행 기반을 제공하며, 프레임워크는 일관된 개발 구조를 제공하고, 라이브러리는 특정 기능을 가진 코드 묶음이다. 예시로는 NVIDIA GPU 생태계, Android 생태계, Python 생태계 등이 있다. 각 요소는 서로 연결되어 효율적인 개발과 실행을 지원한다.
- Web App Frontend 계층 구조
프론트엔드 계층 구조는 HTML, CSS, JavaScript를 포함하며, 각 계층의 주요 실습 도구로는 Live Server, Chrome DevTools, Tailwind 등이 있다. DOM 트리 구조 예시와 Tailwind CSS를 활용한 히어로 섹션 디자인 방법도 설명되어 있다. Tailwind CSS는 유틸리티 클래스 조합으로 빠른 디자인을 가능하게 하며, 반응형 디자인도 지원한다.
-
OS Windows WSL2 파일 시스템WSL2에서 Ubuntu는 대소문자를 구분하며, 파일 시스템 구조는 / 기반 단일 트리로 구성된다. Windows와의 파일 경로 연동이 가능하며, Ubuntu에서 Windows 파일에 접근할 때는 /mnt/ 경로를 사용한다. 실행 권한은 Ubuntu에서 별도로 관리되며, Windows는 확장자에 따라 실행 여부를 판단한다.
-
OS Windows WSL2에서 Ubuntu OS 실행하기WSL2는 Windows에서 리눅스 개발 환경을 제공하는 경량 가상화 구조로, 설치 및 초기 설정 방법을 단계적으로 안내합니다. WSL2의 장점으로는 빠른 성능, Windows와 Linux 파일 시스템 간의 연동, VS Code 통합 등이 있으며, Ubuntu 배포판 설치와 사용자 계정 설정 방법도 포함되어 있습니다. 초기 환경 구성 후 패키지 업데이트 및 개발 도구 설치가 가능합니다.
- Data Flow. Client-Server 환경에서
클라이언트-서버 환경에서 SSH는 원격 서버의 Shell에 안전하게 접속하는 통신 프로토콜로, 사용자는 로컬 PC에서 명령어를 입력하여 서버와 상호작용합니다. 운영체제의 구조는 사용자, Shell, Kernel, 하드웨어로 구성되며, 이들 간의 정보 처리 흐름은 명확하게 정의됩니다. WSL2와 AWS EC2 환경에서 각각의 Shell 사용 방식이 설명됩니다.
-
OS User Interface (CLI vs GUI)CLI(명령줄 인터페이스)는 키보드를 통해 명령어를 입력하여 자원을 적게 사용하고 빠르게 작업할 수 있으며, 원격 서버 관리에 필수적이다. 반면, GUI(그래픽 사용자 인터페이스)는 시각적 요소를 통해 조작하며 입문자에게 친숙하지만 리눅스 서버 환경에서는 일반적으로 사용되지 않는다. CLI는 정밀 제어와 자동화에 강점을 가지며, GUI는 시각적 환경에서의 조작에 유리하다. 두 방식의 비교표에서는 서버 환경 사용 가능성, 원격 접속 지원, 사용 목적, 속도 및 자원 사용 등 다양한 항목에서 차이를 보여준다.
-
앱 분석 - EBS의 Web App (Danchoo+)EBS의 Danchoo+는 AI 진단, 추천, 분석을 통해 학생의 학습을 지원하지만, 실제로는 규칙 기반 시스템과 간단한 통계 분석(Item2Vec)을 사용한다. 각 단계에서 진단, 추천, 분석, 결과 제공이 이루어지며, 이는 사용자 맞춤화에는 한계가 있지만 정책기관의 요구를 충족시킨다. 향후 Transformer 기반 모델과 강화학습을 통해 발전할 가능성이 있다.
- LLM Deep Research에서의 핵심요소
대규모 언어 모델(LLM)의 심층 연구는 파라미터 수 경쟁을 넘어, 하이퍼파라미터 최적화, 배치 크기, 에폭, 학습률 스케줄링 등 핵심 요소를 정밀하게 설계하고, 연산 자원의 효율적 사용을 강조합니다. 이를 통해 학습 안정성과 효율성을 동시에 확보하며, LLM의 확장성과 서비스 가치를 높이는 것이 중요합니다. 경쟁력은 규모가 아닌 정밀성과 효율성에 기반해야 합니다.