抗战时期，生活在白洋淀的小男孩张嘎与的亲人奶奶相依为命。为了掩护在家养伤的八路军侦察连长钟亮，奶奶英勇地牺牲在日军的刺刀下，而钟亮也被敌人抓走。嘎子历经艰辛，找到八路军，当上了一名小侦察员。
他配合侦察员罗金保执行任务，表现得勇敢、机智。但嘎子毕竟还是一个活泼、淘气的孩子，他与小朋友胖墩摔跤输了还不讲道理，去堵胖墩家的烟囱。在一次战斗中，他缴获了敌人一支手枪，竟偷偷把枪藏进了老鸦窝里，没有上缴。
为攻打敌人岗楼，他奉命进城侦察时被捕。当部队攻打岗楼时，他设法在里面放火，里应外合，全歼敌人，救出了老钟叔，也替奶奶报了仇。战斗结束后，嘎子把藏在老鸦窝里的手枪主动拿出来上缴。
队长正式宣布把手枪发给他使用。