Danpei Tange é um boxeador frustrado. Largou os ringues quando perdeu a visão de um dos olhos, e desistiu de ser treinador quando foi traído por seu discípulo. Desde então, vive uma vida de miséria, andando com mendigos e enchendo a cara o dia inteiro. Um dia, chega à cidade onde mora Tange, um jovem. Violento, orgulhoso, aproveitador e mentiroso, Joe Yabuki arranja brigas, trapaceia, rouba e mente. No entanto, sua força e agilidade em suas brigas de rua despertam a atenção de Danpei, que vê em Joe o potencial para se tornar um grande boxeador, talvez até mesmo um campeão.
É aí que começa Ashita no Joe, a saga de Joe Yabuki para deixar de ser um simples marginal e se tornar um grande campeão do boxe. De início a contragosto, Joe se recusa a treinar com Danpei, mas tudo muda quando entram em sua vida a bela Yoko Shiraki e o valente Rikiishi Tohru, aquele que se tornaria o grande rival de Joe até o fim da série.