使用成績の良かった6両の内、No.2~5の4両がイギリス・Sharp, Stewart & Co.蒸気
機関車で、この4両の成績が最も良かった。そのため、1873年(明治6)から始まった新橋-横浜間の貨物輸送に伴う輸送量増大に対応するために1873年(明治6)、イギリスのSharp, Stewart & Co.に2両が注文され、1874年(明治7)に完成、増備された。これら2両にはそれぞれNo.21とNo.23の番号が与えられた。そのうちのNo.23が現在博物館明治村に動態保存されている12号蒸気機関車である。なお1872年(明治5)当時のNo.1(後の150形蒸気機関車150号、ValcanFoundry Ltd.製)は現在交通博物館に、No.10(後の110形蒸気機関車110号、Yorkshire Engine Co.製)は青梅鉄道公園に静態保存されている。従って、明治村の12号蒸気機関車は動態保存の蒸気機関車としては日本最古のものである。
1874年(明治7)に増備されたNo.21とNo.23には当初から蒸気ドームが取り付けられていた。しかし、1872年(明治5)にイギリスのSharp, Stewart & Co.から輸入された4両については蒸気ドームは取り付けられていなかった。1870年代前半に改良により初期の4両にも蒸気ドームが付けられた。このことから、この頃が技術的にも過渡期にあったということが分かる。鉄道創業当時の蒸気機関車については、交通博物館に所蔵の写真「岩崎・渡辺コレクション」が有名であり当時の機関車の様子を克明に記録している