해커의 침투 A to Z: 웹 해킹부터 루트킷까지 (왕초보 상세 가이드)

 

해커의 침투 A to Z: 웹 해킹부터 루트킷까지 (왕초보 상세 가이드)

안녕하세요! 인터넷 세상을 살아가면서 우리는 수많은 웹사이트와 서버를 이용합니다. 그런데 눈에 보이지 않는 이 서버라는 컴퓨터 안에서는 어떤 일들이 벌어질까요? 특히 '해킹'이라는 단어는 무섭지만, 정확히 어떻게 이루어지는지 궁금해하시는 분들이 많을 겁니다. 왜 해커는 서버를 해킹하려 할까요? 개인정보나 돈을 훔치거나, 다른 곳을 공격하기 위한 발판으로 삼는 등 이유는 다양합니다.

반응형

이 글에서는 마치 한 편의 스릴러 영화처럼, 해커가 웹사이트의 작은 틈을 비집고 들어가 최종적으로 서버 전체를 비밀리에 장악하는 그 흥미진진하고도 위험한 과정을, 컴퓨터를 잘 모르시는 '왕초보' 분들도 쉽게 이해하실 수 있도록 아주 상세하게 단계별로 파헤쳐 보겠습니다.

⚠️ 중요 경고: 이 글의 목적은 오직 정보보안의 원리를 배우고 경각심을 높이기 위한 교육에 있습니다. 여기에 설명된 어떤 내용이라도 실제로 시도하는 것은 명백한 불법 행위이며, 심각한 법적 처벌을 받을 수 있습니다. 절대 따라 하지 마십시오.

1단계: 성벽의 작은 균열 찾기 (웹 해킹 - 초기 침투)

어디서부터 시작될까? - 웹사이트의 약점 공략

모든 해킹은 목표 시스템의 가장 약한 고리를 찾는 것에서 시작됩니다. 웹사이트는 인터넷과 직접 연결되어 있어 해커의 첫 번째 공격 목표가 되기 쉽습니다. 마치 거대한 성벽에서 가장 허술하거나 낡은 부분을 찾아 공략하는 것과 같습니다.

집에 비유하자면, 현관문 비밀번호를 쉬운 숫자로 해놓거나(약한 관리자 비밀번호), 창문 잠그는 것을 잊었거나(소프트웨어 버그), 우편함에 이상한 물건을 넣을 수 있는(파일 업로드 취약점) 허점을 찾는 것입니다.

주요 공격 방법 (쉬운 예시)

• SQL 인젝션 (Database 속이기): 웹사이트는 보통 데이터베이스(정보 창고)와 대화하며 정보를 가져옵니다. 해커는 로그인 창이나 검색 창 같은 곳에 정상적인 요청 대신, 데이터베이스를 속이는 교묘한 질문(악성 SQL 쿼리)을 던집니다. 성공하면 데이터베이스가 비밀 정보(예: 다른 사용자 ID/비밀번호)를 알려주거나 해커의 명령을 실행할 수 있습니다."비밀번호 뭐였지?"라고 묻는 대신, "모든 사람의 이름이랑 비밀번호 적힌 종이 좀 줘봐!"라고 데이터베이스 관리자에게 몰래 속삭이는 것과 비슷합니다.
• 파일 업로드 취약점 (트로이 목마 숨기기): 웹사이트가 사용자에게 프로필 사진이나 게시글 첨부파일 등을 올리게 허용할 때, 어떤 종류의 파일인지 제대로 검사하지 않는 경우가 있습니다. 해커는 이를 이용해 평범한 그림 파일처럼 위장한 악성 프로그램(웹쉘)을 서버에 몰래 업로드합니다.택배 상자 안에 폭탄을 숨겨 보내는데, 경비원이 내용물 확인을 제대로 안 하는 것과 같습니다.
• 오래된 소프트웨어 사용 (낡은 자물쇠): 웹사이트를 만드는 데 사용된 프로그램(워드프레스, 게시판 등)이나 서버 자체의 소프트웨어에 이미 알려진 보안 구멍(취약점)이 있는데, 업데이트를 안 해서 그대로 방치된 경우입니다. 해커는 이 알려진 구멍을 이용해 쉽게 침투할 수 있습니다.

1단계 목표: 아주 작은 발판 확보

이 단계에서의 목표는 서버 전체를 장악하는 것이 아닙니다. 단지 서버 컴퓨터 안으로 아주 작은 '틈' 또는 '발판'을 마련하는 것입니다. 성공하더라도 해커는 아직 서버의 극히 일부 기능만 제어할 수 있는, 아주 낮은 권한(보통 웹 서버 프로그램이 작동하는 권한)을 가진 상태입니다.

2단계: 비밀 아지트 구축 (웹쉘 - 원격 제어 발판)

웹쉘이란 무엇일까?

1단계에서 확보한 틈을 통해 해커는 이제 '웹쉘(Web Shell)'이라는 특별한 프로그램을 설치합니다. 웹쉘은 해커가 웹 브라우저(인터넷 익스플로러, 크롬 등)를 통해 마치 자기 컴퓨터처럼 서버에 원격으로 명령을 내릴 수 있게 해주는 작은 도구입니다. 웹사이트 주소창에 특정 주소를 입력하면, 해커에게만 보이는 비밀 제어판 페이지가 뜨는 식입니다.

집에 몰래 들어온 뒤, 거실 벽에 아무도 모르게 숨겨둔 작은 리모컨(웹쉘)을 설치하는 것과 같습니다. 이 리모컨으로 집 밖에서도 거실의 불을 켜거나 TV 채널을 돌리는 정도의 간단한 조작은 할 수 있게 됩니다.

하지만 아직은 '손님'일 뿐!

웹쉘은 편리하지만, 여전히 큰 제약이 있습니다. 웹쉘은 보통 웹 서버 프로그램(예: 아파치, Nginx)이 실행되는 권한, 즉 아주 낮은 권한으로 작동합니다. 이 권한으로는 다음과 같은 한계가 있습니다.

• 웹사이트 관련 파일(HTML, 이미지 등) 외에 다른 중요한 시스템 파일 접근 불가
• 다른 사용자(특히 관리자)의 개인 파일 접근 불가
• 시스템 설정 변경 불가
• 중요 프로그램 설치/삭제 불가

거실 리모컨으로는 안방의 금고를 열거나 집 전체의 난방 시스템을 조절할 수는 없는 것과 같습니다. 여전히 집의 '손님'일 뿐, '주인'이 아닙니다.

따라서 해커는 더 강력한 권한을 얻기 위해 다음 단계로 나아가야 합니다.

3단계: 손님에서 집주인으로! (권한 상승 - Privilege Escalation)

왜 '집주인(Root)'이 되어야 할까?

리눅스/유닉스 기반 서버에서 최고 관리자 계정을 '루트(Root)'라고 부릅니다. 루트는 말 그대로 서버의 신(God)과 같은 존재로, 시스템의 모든 것을 제어할 수 있는 막강한 권한을 가집니다. 해커가 서버를 완전히 장악하고 숨겨진 활동을 하려면 반드시 이 루트 권한을 획득해야 합니다. 낮은 권한(웹쉘 상태)으로는 할 수 있는 일이 너무나 제한적이기 때문입니다.

집의 손님(낮은 권한 사용자)은 거실만 이용할 수 있지만, 집주인(루트)은 집 전체의 열쇠(마스터 키), 설계도, 모든 방의 접근 권한을 가지고 마음대로 드나들고 구조를 바꿀 수도 있습니다.

루트 권한은 어떻게 빼앗을까?

이제 해커는 웹사이트의 문제가 아닌, 서버 컴퓨터를 움직이는 핵심 프로그램인 운영체제(OS - 예: 리눅스, 윈도우 서버) 자체의 약점을 찾아 공략합니다. 웹쉘을 통해 알아낸 서버 정보(OS 버전, 설치된 프로그램 등)를 바탕으로 알려진 취약점을 찾거나, 시스템 설정을 잘못한 부분을 노립니다.

• 커널 취약점 공격: 운영체제의 심장부인 '커널'에 존재하는 버그를 이용합니다. 커널은 모든 권한을 통제하므로, 커널의 버그를 이용하면 바로 루트 권한을 얻을 수도 있습니다.건물 전체의 보안 시스템(커널) 자체에 설계 결함이 있어서, 특정 조작을 하면 모든 문의 잠금이 해제되는 것과 같습니다.
• 설정 오류 악용: 관리자가 실수로 중요 파일에 대해 너무 느슨한 접근 권한을 설정했거나, 특정 프로그램이 불필요하게 높은 권한으로 실행되도록 설정한 경우 이를 이용합니다.집주인이 실수로 마스터 키를 현관문 앞 화분 밑에 숨겨둔 것을 찾아내는 것과 같습니다.
• 패스워드 크래킹: 서버 내 다른 사용자 계정, 특히 관리자 계정의 비밀번호를 알아내려고 시도합니다. (매우 어렵거나 시간이 오래 걸릴 수 있습니다.)

권한 상승은 해킹 과정 중에서도 상당히 어렵고 전문적인 지식이 필요한 단계입니다. 성공하면 해커는 드디어 서버의 완전한 통제권을 손에 쥐게 됩니다!

4단계: 투명 망토와 만능 열쇠 (루트킷 - 은폐 및 지속성 확보)

루트킷: 해커의 필수 장비

이제 서버의 '신(Root)'이 되었지만, 문제는 지금부터입니다. 루트 권한으로 활동하면 시스템 곳곳에 강력한 흔적(로그)이 남게 됩니다. 서버 관리자가 로그를 보면 "어? 누가 루트 권한으로 이상한 짓을 했네?" 하고 금방 알아챌 수 있죠. 그래서 해커는 자신의 존재와 활동을 완벽하게 숨기기 위해 '루트킷(Rootkit)'을 설치합니다.

투명 망토를 입어서 아무에게도 보이지 않게 되고, 어떤 문이든 열 수 있는 만능 열쇠를 얻고, 내가 지나간 발자국이나 CCTV 기록까지 지울 수 있는 마법 도구를 얻는 것과 같습니다.

루트킷은 무엇을 할까? - 핵심 기능

• 은폐 (Stealth): 이것이 루트킷의 가장 중요한 역할입니다.
  • 파일/디렉토리 숨기기: 관리자가 파일 목록(ls)을 봐도 루트킷 관련 파일은 보이지 않게 합니다.
  • 프로세스 숨기기: 실행 중인 프로그램 목록(ps)에서도 루트킷 프로세스는 보이지 않습니다.
  • 네트워크 연결 숨기기: 해커와의 비밀 통신 연결(netstat)도 목록에서 사라지게 합니다.
  • 로그 조작/삭제: 시스템 로그 파일에서 해커의 로그인 기록, 명령어 실행 기록 등을 지우거나 거짓 정보로 바꿉니다. (주의: 루트킷 설치 이전의 로그는 지우기 어렵거나 불가능할 수 있습니다!)
  마술사가 관객의 시선을 다른 곳으로 돌린 사이에 카드를 숨기거나 바꾸는 것처럼, 루트킷은 관리자가 시스템 정보를 요청할 때 중간에서 정보를 가로채거나 조작하여 보여줍니다.
• 지속성 (Persistence): 해커가 서버를 재부팅해도 계속해서 접속 권한을 유지할 수 있게 합니다.
  • 자동 실행: 서버가 켜질 때마다 루트킷이 자동으로 실행되도록 시스템 시작 스크립트 등을 몰래 수정합니다.
  • 백도어(Backdoor): 해커만 아는 비밀 통로를 만들어 둡니다. 정상적인 로그인 절차 없이도 언제든 서버에 다시 접속할 수 있게 합니다.
  집 현관문 말고, 아무도 모르는 나만의 비밀 통로를 만들어 두고, 매일 아침 그 통로가 잘 작동하는지 자동으로 점검하게 만드는 것과 같습니다.

루트킷 설치의 어려움

루트 권한이 있어도 루트킷 설치는 만만치 않습니다. 앞서 이야기했듯이, 최신 보안 솔루션(백신, EDR, HIDS)은 알려진 루트킷을 탐지하거나 의심스러운 행위를 포착하여 차단할 수 있습니다. 또한, 커널 루트킷은 특정 커널 버전과 딱 맞아야 작동하며, 조금만 잘못 만들어도 서버 전체를 다운(Kernel Panic)시킬 수 있는 위험 부담도 있습니다. 리눅스의 SELinux나 커널 모듈 서명 같은 보안 기능도 루트킷 설치를 방해하는 강력한 장벽입니다.

5단계: 장악된 서버에서의 악행 (악성 페이로드 실행)

이제 서버는 해커의 놀이터!

루트킷 설치까지 성공적으로 마쳤다면, 해커는 이제 탐지 걱정을 크게 덜고 서버를 마음대로 이용할 수 있게 됩니다. 마치 투명 망토를 입고 만능 열쇠를 쥔 채 빈집에 들어간 도둑과 같습니다. 해커는 이 서버를 이용해 다음과 같은 다양한 악의적인 목적을 달성하려 합니다.

구체적인 악성 행위들

• 정교한 백도어 설치: 루트킷 자체의 백도어 외에도, 더 들키기 어렵고 다양한 기능을 가진 추가적인 비밀 통로를 만듭니다. 특정 시간에만 작동하거나, 외부에서 특정한 신호(예: 특정 네트워크 패킷)를 보내야만 열리는 방식 등 교묘하게 만듭니다.
• 중요 데이터 유출: 서버 내부를 샅샅이 뒤져 가치 있는 정보를 찾습니다. 개인 정보(이름, 주소, 주민번호, 신용카드 정보 등), 기업의 내부 문서, 기술 자료, 고객 데이터베이스 등을 찾아 압축한 뒤, 몰래 외부의 해커 서버로 전송합니다.
• 철저한 로그 삭제 및 조작: 단순히 자신의 흔적을 지우는 것을 넘어, 다른 사용자가 한 것처럼 로그를 조작하거나, 시스템 감사 로그 자체를 비활성화하여 추적을 극도로 어렵게 만듭니다.
• 다른 시스템 공격을 위한 발판 (좀비 PC): 이 장악된 서버를 '숙주' 삼아 다른 내부 네트워크의 서버나 외부의 다른 웹사이트를 공격하는 데 사용합니다. 이렇게 되면 공격의 출처가 해커가 아닌, 엉뚱한 피해 서버로 기록되어 추적을 피할 수 있습니다. 여러 대의 서버를 이렇게 장악하여 거대한 공격 네트워크(봇넷)를 만들기도 합니다.
• 악성코드 유포 기지: 서버에 악성코드(바이러스, 랜섬웨어 등)를 숨겨두고, 이 서버를 방문하는 사용자들의 PC로 악성코드를 퍼뜨리는 창구로 사용합니다.
• 스팸 메일 대량 발송: 서버의 이메일 발송 기능을 이용하여 대량의 스팸 메일이나 피싱 메일을 발송합니다.
• 랜섬웨어 감염: 서버의 중요 파일들을 암호화하고, 이를 풀어주는 대가로 금전(주로 비트코인)을 요구하는 랜섬웨어 공격을 감행합니다.
• 가상화폐 불법 채굴 (Cryptojacking): 서버의 CPU나 GPU 자원을 몰래 사용하여 비트코인 같은 가상화폐를 채굴합니다. 이는 서버 성능을 급격히 저하시키고 전기 요금을 증가시킵니다.

이 모든 활동은 루트킷의 은폐 기능 아래 비밀리에 이루어지므로, 서버 관리자는 성능 저하나 사용자의 피해 신고 등 이상 징후가 뚜렷해지기 전까지는 해킹 사실을 인지하기 매우 어렵습니다.

결론: 보안은 아무리 강조해도 지나치지 않다!

지금까지 해커가 웹사이트의 작은 균열을 통해 침투하여, 권한을 상승시키고, 루트킷으로 자신의 존재를 숨긴 뒤, 최종적으로 서버를 완전히 장악하여 악용하는 길고 복잡한 과정을 살펴보았습니다. 마치 도미노처럼 한 단계의 성공이 다음 단계로 이어지는 것을 볼 수 있습니다.

이러한 위협으로부터 우리의 소중한 정보와 시스템을 지키기 위해서는 어떻게 해야 할까요? 완벽한 보안은 없지만, 위험을 크게 줄일 수 있는 방법은 분명히 있습니다.

🛡️ 서버 및 웹사이트 보안을 위한 기초 수칙 (초보자 필독!)

• 모든 비밀번호는 강력하고 고유하게! 관리자 계정뿐 아니라 데이터베이스, FTP 등 모든 계정의 비밀번호를 길고 복잡하게 만들고, 절대 다른 곳과 똑같은 비밀번호를 쓰지 마세요. 주기적으로 변경하는 것도 좋습니다.
• 업데이트! 업데이트! 업데이트! 운영체제(리눅스, 윈도우), 웹 서버 프로그램(아파치, Nginx), 웹사이트 제작 도구(워드프레스, 제로보드 등), 사용 중인 모든 플러그인 및 라이브러리를 항상 최신 버전으로 유지하세요. 알려진 보안 구멍을 막는 가장 기본적이고 중요한 방법입니다.
• 파일 업로드 기능은 신중하게! 사용자가 파일을 올릴 수 있게 하려면, 반드시 파일 종류(이미지면 이미지인지, 실행 파일은 아닌지)와 크기를 엄격하게 검사해야 합니다.
• 보안 설정 강화! 웹 방화벽(WAF) 같은 보안 솔루션을 사용하고, 서버 접근 권한(퍼미션)을 최소한으로 설정하세요. 리눅스라면 SELinux/AppArmor 사용을 고려해보세요.
• 정기적인 백업은 생명줄! 만약의 사태(해킹, 랜섬웨어 등)에 대비해 웹사이트 데이터와 데이터베이스를 정기적으로 백업하고, 백업 파일은 안전한 다른 곳에 보관하세요.
• 로그를 살펴보고 감시하세요! 서버 접속 로그, 웹 서버 로그 등을 주기적으로 확인하여 의심스러운 활동이 없는지 살펴보는 습관을 들이세요. (어렵다면 보안 전문가의 도움을 받으세요.)
• HTTPS 사용 필수! 웹사이트와 사용자 간의 통신을 암호화하여 중간에서 정보를 가로채는 것을 방지합니다.

이 글을 통해 해킹 과정에 대한 막연한 두려움 대신 구체적인 이해를 얻으셨기를 바랍니다. 그리고 이를 바탕으로 기본적인 보안 수칙 실천의 중요성을 다시 한번 느끼는 계기가 되었으면 좋겠습니다.

다시 한번 강조합니다: 호기심이나 장난으로라도 절대 해킹을 시도해서는 안 됩니다. 이 글은 오직 보안 학습과 예방을 위한 것입니다.