御着城、英賀城と並び播磨三大城と称された。明応年間(1492-1501)東播磨守護代別所則治により築城。もともと別所氏は、播磨の守護・赤松氏の一族。

　則治の孫・別所就治の時、享禄3年（1530）援軍の柳本賢治が暗殺されると細川高国・浦上村宗連合軍が三木城、御着城、有田城を攻撃落城させた。翌年、高国・村宗が死ぬと就治は三木城に復帰。

　天文7年(1538)同8年の二度にわたり尼子詮久（後の晴久）の攻撃を受ける。この時赤松氏の国人衆の殆どが尼子軍に下る中、三木城は踏ん張り撃退した。一方守護の赤松晴政は2回も国外に脱出し守護の権威が失墜。就治の東播磨での権威が増す。以降赤松氏を見限って細川晴元派に。

　しかし今度は晴元を京都から追放した三好長慶に、三好派の有馬重則と対立していた事で目をつけられ、天文23年(1554)三好長逸に攻められ、和睦して三好氏の麾下となる。

　永禄2年（1559）宿敵であった依藤氏を滅ぼした。

　永禄11年頃、三好三人衆を見限り織田信長と結ぶ。

　永禄12年（1569）別所安治の時、三好三人衆派の浦上宗景に西播磨遠征の留守を狙われ三木城を攻撃された。

　別所長治の時、北播磨の在田氏を滅ぼして戦国大名化した。

　天正6年(1578)織田信長を裏切り毛利氏と手を組んだため、羽柴秀吉に三木城を包囲され支城を次々と落され、一年十か月の悲惨な籠城戦「三木の干殺し」によって、天正8年（1580）別所長治一族が自害して開城した。

　天正13年(1585)摂津国茨木より中川秀政が入城するが、朝鮮の役で没して弟秀成が継いだものの転封となり、以後豊臣氏の直轄地となり代官が置かれる。

　慶長5年(1600)池田輝政が姫路に入部すると、三木城にはその支城として伊木忠次が三万石で在城した。

　元和元年(1615)一国一城令によって廃城となり、古材を明石城の築城に使われたといわれている。

 

・本丸周辺だけが上の丸公園として残っている。

・天守台はあるが、天守があったかは不明。

・竹中半兵衛と黒田官兵衛が共に三木合戦に参加。官兵衛はこの戦いにおいて先陣を務めたと言われている。