글 목록
-
run:ai는 GPU를 동적할당하여 가동률을 높입니다.GPU를 분할 사용하여 하드웨어 효율을 높이는 솔루션 엔비디아의 run:ai 인수 2024년 12월, 엔비디아(NVIDIA는 GPU 오케스트레이션 소프트웨어 개발사 run:ai(런AI) 인수를 마쳤습니다. run:ai는 GPU를 분할 사용하여 자원의 가동률(Utilization)을 높이는 솔루션을 제공하며, 엔비디아 장비에서 원활히 구동되도록 구성되어 있습니다. GPU에서 AI 모델을 구동하는 경우, 일반적댓글 0 Mar 21. 2025 by 필드노트
-
PagedAttention. 정말 최적인가? 진짜?추론 과정에서 GPU 메모리의 대부분을 차지하는 KV 캐시를 어떻게 관리하느냐가 서비스 성능에 큰 영향을 미치게 되는데, 이전 시스템들은 모델이 지원하는 최대 컨텍스트 길이를 기준으로 각 리퀘스트별로 메모리를 할당하는 "naive"한 방법을 사용했습니다. 하지만 이렇게 하면 모든 리퀘스트가 항상 모델의 최대 컨텍스트 길이만큼 디코드를 하는 것은 아니므로 메댓글 0 Mar 09. 2025 by 돌부처
-
“삼성전자, 위기 속 선택은?”삼성전자가 차세대 고대역폭 메모리(HBM)인 HBM4 개발 과정에서 10나노급 6세대(1c) D램 설계를 전면 수정하고 있다는 소식이 전해지면서 업계의 긴장감이 높아지고 있습니다. 경쟁사들이 한발 앞서 HBM4 시장을 선점하는 상황에서 삼성전자의 일정 지연이 우려되는 가운데, AI 반도체 시장의 주도권이 어디로 향할지 관심이 집중됩니다. HBM4 개발,댓글 0 Mar 02. 2025 by 오토카뉴스
-
AI반도체 병목을 해결해줄 유리기판반도체 패키징의 미래: 유리기판이 바꾸는 AI 컴퓨팅의 판도 CPU와 GPU의 작동에 필수적이 것이 메모리이고, 한국은 삼성전자의 DRAM과 SK하이닉스의 HBM 덕분에 컴퓨터와 스마트폰 그리고 AI 시대에 거인의 어깨에 올라탈 수 있었다. 하지만, 기업의 지속 성장은 상품 하나에서 나오지 않는다. 인접 영역으로 확장해가면서 신규 상품 개발을 모색해야만 거인의 어깨에 머물지 않고 거인이 될 수 있다. 그런 목적으로댓글 0 Feb 19. 2025 by OOJOO
-
매직아일랜드와 벤치#5. 하와이 한 달 살기 - 5일 차 매직아일랜드를 걷다 보면 세상이 한없이 평화롭게 느껴진다. 유유히 헤엄치는 거북이, 뛰어노는 아이들, 여유롭게 요가하는 사람, 낚싯대를 드리운 채 바다를 응시하는 사람, 그리고 곳곳에 자리 잡은 벤치들. 햇볕이 잘 드는 곳, 나무 그늘 아래, 바다를 정면으로 마주한 자리에 있는 벤치에 앉았다. 그곳에 앉아 10분, 20분, 30분… 1시간. 시간이 멈춘 듯댓글 1 Feb 17. 2025 by 솔트앤선
-
딥시크 후 미 빅테크 투자 및 HBM메모리 수혜 여부(반도체 기사 쉽게 읽기) 디지털 데일리 중에서, 1. 딥 시크 R1이 지난 1월 20일에 공개 되고, 이 모델의 성능이 챗GPT의 추론 모델인 o1과 맞먹는다고 해서 전세계를 쇼킹하게 만들었습니다. 2. 지난 설 연휴 동안 한국 업체나 전문가들은 쉬지도 못하고, 이 모델의 파급 효과를 분석해야 했습니다. 3. 더군다나 개발비가 단지 80억원 밖에 안 들었고, 사용한 GPU가 기존 고가 및 고성능인댓글 0 Feb 08. 2025 by 나단 Nathan 조형권
-
캠코더서랍 구석 속 옛날에 쓰던 낡은 캠코더를 꺼내본다 캠코더 옆에 보관되던 메모리 카드를 넣고 삑삑- 하며 버튼을 눌러본다 작은 음성이 흘러나왔다 “ 맛있어? ” 익숙한 남성이다 나의 아버지 “ 아빠도 먹어봐 ” 나의 아버지에게 치즈 케이크를 잘라 건네는 여성 나의 언니 셋이서 갔던 여행 영상이 담겨있었다 나는 홀린 듯이 작은 캠코더 화면만 바라볼 뿐이었댓글 0 Feb 06. 2025 by 우주언
-
프렌젤 : 압력계 가스라이팅이퀄라이징을 연습할 때 가장 중요한 것은 올바른 근육을 사용하는 것입니다. 정확한 근육을 활용해야 올바른 머슬 메모리가 형성되며, 자연스럽고 효율적인 이퀄라이징이 가능합니다. 그러나 연습 과정에서 종종 주객이 전도되는 경우가 있습니다. 그 대표적인 예가 압력계에 대한 집착입니다. 압력계 측정의 한계 많은 사람들이 "압력이 부족하다"거나 "압력이 너무 과댓글 0 Feb 04. 2025 by BTV 이퀄박사
-
삼성전자 메모리 관련 영상요약https://naver.how/2025/02/17/%ec%82%bc%ec%84%b1%ec%a0%84%ec%9e%90-%eb%a9%94%eb%aa%a8%eb%a6%ac-%ea%b4%80%eb%a0%a8-%ec%98%81%ec%83%81%ec%9a%94%ec%95%bd/댓글 0 Feb 01. 2025 by HJH
