築城年は不詳。鎌倉時代に芥川氏により築城か。 芥川城は平城であるこの芥川城と、三好山に築かれた山城があり、一般的に後者を芥川山城と呼んでいる。

　芥川氏は、鎌倉幕府の北条氏と命運を共にした真上氏という武将の庶子家と考えられている。

　南北朝時代、芥川氏は北摂津の有力な国人に成長。応仁の乱では東軍に属して戦ったが、西軍の大内正弘の軍門に降り、その後芥川本家は衰退した。

　延徳２（１４９０）年、細川政元は衰退していた芥川宿の再建に乗り出し、能勢頼則を芥川城主とした。永正１３（１５１６）年、能勢氏は芥川山城を築城。芥川城は平時の居館として活用されていたという説もあるが、この前後に廃城していったと思われる。

　西国街道は、現在の芥川2丁目付近で急に北に折れ曲がり、3丁目付近で再び西に戻ってくる不規則な街道になっており、城を避けて西国街道が作られた、と考えられている。

　現在では遺構は何も残っておらず、石碑が建つのみである。また、近くには芥川が流れ、芥川一里塚の石碑、芥川の仇討の辻などがある。