DEV Community

finaltype
finaltype

Posted on Originally published at finaltype.github.io

[260711] 그래픽카드 확장, 일단 새 카드부터 갈아 끼워 테스트했다

두 장을 같이 꽂기 전에 새 카드 안정성부터 확인했고, 예전에 "효과 없다"고 접었던 방법도 다시 꺼내 뒤집었다

며칠 전 방향만 정해뒀던 하드웨어 확장을 오늘 진행했고, 예전에 포기했던 아이디어 하나도 다시 꺼내서 뒤집었습니다.

그래픽카드 확장, 우선 새 카드부터 갈아 끼워 테스트

지금 쓰던 것과 같은 모델의 그래픽카드를 하나 더 구했습니다. 최종 목표는 두 장을 동시에 꽂아서 쓰는 거지만, 오늘은 우선 새 카드로 갈아 끼운 뒤 단독으로 안정성부터 확인했습니다. 전력을 조금 제한한 상태로 부하 테스트를 돌려봤는데, 온도는 기존보다 오히려 낮게 유지됐고, 팬 소음도 줄었고, 속도 저하나 오류도 전혀 없었습니다.

두 장을 실제로 같이 꽂는 건 아직인데, 미리 케이스 내부 구조를 확인해보니 두 장이 나란히 들어갈 자리와 전원 공급 장치 자리가 몇 센티미터 차이로 부딪히는 구조라는 걸 알게 됐습니다. 무작정 조립해보기 전에 치수를 먼저 확인해둔 덕분에, 실제로 부딪혀서 낭패를 보기 전에 "전원 공급 장치를 아예 별도 칸으로 분리한 케이스로 바꿔야 한다"는 결론을 미리 낼 수 있었습니다. 진짜 두 장 동시 운용은 그 케이스 교체 이후로 미뤄뒀습니다.

예전에 "효과 없다"고 접었던 걸 다시 꺼내 뒤집었다

한참 전에, 로컬 LLM 서버가 여러 요청을 동시에 처리하게 해보면 빨라지지 않을까 시도했다가 "별 효과 없다"고 결론 내고 접어둔 설정이 있었습니다. 오늘 다른 조건에서 다시 꺼내서 제대로 재봤는데, 이번엔 결과가 완전히 달랐습니다 — 순수 생성 속도만 놓고 보면 거의 두 배 가까이, 실제 전체 작업 기준으로도 1.5배 정도 빨라졌습니다.

예전 결론이 틀렸던 이유를 다시 생각해보니, 그때는 측정 방식이나 조건이 지금과 달라서 개선 효과가 다른 병목에 가려 안 보였던 것 같습니다. "예전에 안 됐다"는 결론도 조건이 바뀌면 유효기간이 끝난다는 걸 다시 배웠습니다 — 전제가 바뀌면, 예전에 접어둔 아이디어도 가끔은 다시 꺼내볼 가치가 있습니다.

그 밖에

  • 로컬 LLM 두 종류(가볍고 빠른 것 vs 무겁고 느린 것)를 실제 투자 판단 결과에 얼마나 영향을 주는지 비교하는 실험도 하나 큰 고비를 넘겼습니다. 생각보다 오래 걸리는 작업이라 결과가 나오려면 아직 시간이 좀 더 필요합니다.
  • 얼마 전 핵심 프로세스들을 운영체제 서비스로 옮겨뒀다고 했었는데, 오늘 실제로 컴퓨터를 재부팅해보니 네 개 다 사람 손 없이 알아서 다시 살아난 걸 확인했습니다. 다만 확인하는 과정에서 없는 서비스 이름으로 잘못 조회해서 "이거 왜 꺼져있지?" 하고 잠깐 혼자 헛다리를 짚기도 했습니다 — 실제로는 멀쩡히 돌고 있었는데 이름을 잘못 물어봤던 것뿐이었습니다.

오늘은 소프트웨어보다 하드웨어를 더 많이 만진 날이었습니다. 두 장 동시 운용은 다음 단계로 남겨뒀고, 그 전에 확인할 건 먼저 확인해두자는 게 오늘의 태도였습니다.

Top comments (0)