Câu chuyện bắt đầu khi Shinichi Kudo, một thám tử trung học tài ba 17 tuổi, bị biến thành cậu bé Conan Edogawa.
Sau khi chứng kiến một vụ án mạng trên chuyến tàu tốc hành tại công viên “Miền Nhiệt đới” cùng Ran Mori, Shinichi đã giúp cảnh sát phá án. Trên đường về, cậu vô tình chứng kiến giao dịch mờ ám của Tổ chức Áo đen. Bị phát hiện, Shinichi bị đánh ngất và ép uống Apotoxin-4869 (APTX4869), một loại thuốc độc chưa được thử nghiệm, với mục đích thủ tiêu.
Tuy nhiên, thay vì chết, Shinichi bị teo nhỏ thành hình dáng một cậu học sinh tiểu học.
Theo lời khuyên của Tiến sĩ Hiroshi Agasa, Shinichi giấu thân phận và lấy tên Conan Edogawa. Cậu sống tại văn phòng thám tử Mori cùng Ran, con gái của Kogoro Mori, vừa che giấu thân phận, vừa điều tra về Tổ chức Áo đen và tìm kiếm thuốc giải.
Kogoro Mori là một thám tử tư nghiệp dư, nhưng từ khi Conan giúp phá án, ông trở nên nổi tiếng với biệt danh “Mori ngủ gật”. Conan thường dùng súng gây mê bắn Kogoro, sau đó sử dụng thiết bị đổi giọng nói trên nơ cổ áo để giả giọng, giúp cảnh sát phá án dưới danh nghĩa của Mori. Đôi khi, Conan cũng phá án dưới danh nghĩa của Sonoko Suzuki, bạn thân của Ran.
Những nhân vật quan trọng khác bao gồm cha mẹ của Shinichi – Yusaku và Yukiko Kudo, thám tử Heiji Hattori đến từ Osaka, Siêu trộm Kid, và Sherry (Ai Haibara), nhà sáng chế APTX4869, người cũng bị teo nhỏ sau khi uống thuốc để trốn khỏi Tổ chức Áo đen.
Các thành viên Tổ chức Áo đen như Gin, Vodka, Vermouth, Kir, và một “ông trùm” bí ẩn cũng dần xuất hiện.
Để duy trì vỏ bọc, Conan học tại trường Tiểu học Teitan và kết bạn với Genta Kojima, Mitsuhiko Tsuburaya, và Ayumi Yoshida, lập thành Đội thám tử nhí lớp 1B.
Sau này, Ai Haibara cũng gia nhập đội thám tử nhí.
Trong quá trình phá án, Conan phát hiện ra FBI và CIA cũng đang truy đuổi Tổ chức Áo đen. Các điệp viên FBI và CIA như Shuichi Akai, Jodie Starling, James Black, Mizunashi Rena… dần lộ diện.
