腐敗無能的清廷可以割臺，但是中國人民不會同意喪失中國的領土和主權。割臺兇訊傳出，全國震驚。痛恨賣國、反對割臺，成為中國人民的強烈要求，也成為各界的行動。
從中日開始議和談判到《馬關條約》簽訂，清政府內包括督撫將軍、宗室貝勒在內的各級官員，共有500多人上折上書100余次，反對割臺。侍讀奎華領銜的156人聯名上書中，沉痛指出，《馬關條約》是中國之奇恥大辱，“五大洲未有之奇聞，三千年所無之變局。”
正在北京應試的各省舉人，紛紛集會上書。在都察院前，排隊上書請願的隊伍長達一里多，他們強烈要求“嚴飭李鴻章訂正和款，勿割台灣”。
不掌握實權的光緒皇帝也責問李鴻章：“你身為重臣，辦的什麼外交，簽的什麼條約？可知兩萬萬鉅款從何處籌措？台灣一省竟然送予外國。失民心，傷國體，難道不是你的罪過嗎？”
當時朝廷中許多重臣也請誅李鴻章，“請先誅合肥（李鴻章），再圖補救，以伸中國之憤，以盡一日之心。”
李鴻章只是慈禧的一個工具，光緒皇帝也不過如此。這位有著變革興國方案和決心的“皇上”，在《馬關條約》簽訂後，也只好與教師翁同和一起在御書房裏相對而泣。
身處台灣的同胞們對割臺更有切膚之痛。臺胞聽到割臺兇訊，如同“午夜暴聞轟雷，驚駭無人色”，人們“奔相走告，聚哭于市中，夜以繼日，哭聲達于四野，風雲變色，若無天地。”
台灣籍的在京官員、應試舉人上書都察院，呼籲嚴正拒絕日本的侵略要求，確保祖國的台灣。
更多的台灣同胞站在反對割臺第一線，舉起武裝抗日義旗，“抗倭守土”。6年前的清朝進士丘逢甲在5月25日，與台灣軍務幫辦劉永福和俞明震、副將陳季同、撫墾局局長林朝棟等人一起，議決“義不臣倭，自主保臺”，成立抗日領導機構。當時在台灣的清朝軍隊和各地團練義軍約有7萬人，但武器落後、簡陋，缺少有效的指揮、聯絡機制，戰鬥實力有限。
《馬關條約》簽訂後，日本急著趕來武力接收。1895年5月29日，日本海軍少將東鄉平八郎指揮“浪速”、“高千穗”兩艘軍艦，掩護北白川能久親王率領的近衛師團第二聯隊和川村景明的第一旅團在澳底、鹽寮登陸。6月2日佔領基隆炮臺。同一天，李經芳與樺山資紀正式簽訂割臺協議。
踏上台灣島的日軍欣喜若狂，忘乎所以，在進入一座清軍彈藥庫時，一名中國愛國士兵引爆了炸藥，當場炸死炸傷日軍200余人。這位沒有留下姓名的愛國者，被日軍逮捕後，經受了侵略者報復心理支使下使出的各種酷刑，當天被殘害致死。
也就在這一天，在艋舺經營“瑞昌成”雜貨店的鹿港人辜顯榮、大稻埕商人李春生等漢奸，與一些西方記者和商人一起趕往基隆，歡迎日軍進駐台北。日軍第一旅團長川村景明率部于當天夜間到達台北，一名女性漢奸提供梯子供日軍登墻，守軍英勇抵抗，無奈實力懸殊，到第二天黎明被迫放下武器，台北落入日寇手中。
日軍台北地區得手後，部署重兵開始南下。6月12日，佔領台北後的日軍一路向宜蘭，一路向新竹推進。台灣義軍進行了艱苦卓絕的新竹保衛戰。
佔領部分北部地區的日寇，迫不急待地炫耀戰績，于6月17日，在台北巡撫衙門西側練馬場（今中山堂一帶）舉行“始政式”，日本第一任總督樺山資紀發表臭名昭著的第一篇《諭示》。在以後每年的這一天，日本殖民當局都要舉行所謂的“始政紀念”活動。“始政式”是舉行了，但是台灣並未平定。
中國人民繼續舉起武裝抗日大旗。一些膽小無能的清朝官員可以聽從朝廷命令讓出台灣，愛國同胞不會這樣做。7月11日，台灣抗日義軍和部分清軍分為東、西、南三路，開始反攻新竹城。因為漢奸告密，日軍早有防備，義軍打得十分艱苦。在附近的十八尖山，反復拉鋸數次，最後因為彈藥告罄，義軍不得不退出戰場。
日本當局見接收台灣遭到強烈抵抗，派出大批部隊趕來增援。在交割台灣協議簽訂後一個月，因為台灣同胞組織義軍的反抗，日軍不斷增加兵力，到7月底，已有裝備先進、火力猛烈的2個師團和1個混成支隊共7萬兵力投入台灣。抗日義軍面臨的壓力越來越大，鬥爭條件也越來越艱苦。
台灣人民的反抗在繼續進行。在彰化城東八卦山，七星黑旗軍吳彭年和徐驤、吳湯興等義軍利用有利地形，阻擊日本陸軍少將山根信成部。從8月23日起，激戰5日，日軍無法登上武器裝備低劣的義軍控制的八卦山，最後也是靠漢奸、姦細帶路，悄悄爬上山頂，雙方展開慘烈的白刃戰。此戰竟然消滅日寇千余人，山根信成也命喪黃泉。義軍犧牲500余人，抗日誌士吳彭年、吳湯興、李士炳、沈福山、湯人貴等戰死，烈士的鮮血沒有白流。
在此前後，劉永福與徐驤、楊泗洪、蕭三發、王德標等義軍首領一起，率領抗日官兵，在苗栗、台中、彰化、雲林和嘉義等地區同日寇週旋，沉重打擊了侵略者的囂張氣焰。但是，經過2個月的作戰，義軍的後勤供給越來越困難，直接威脅到抗日勇士們的生存和戰鬥。
面對台灣人民的抵抗，日軍為早日佔領台灣，進入10月後，樺山資紀集結兵力，分四路向南進攻。一路攻嘉義；一路攻安平；一路從布袋嘴登陸，直逼台南市；一路在枋寮登陸攻鳳山。以合擊中南部地區的抗日義軍。
在日寇掃蕩下難於生存的義軍開始邊抵抗邊撤退。徐驤、王德標在撤離嘉義城外兵營前，埋下地雷，半夜炸死炸傷搶佔兵營的日軍700余人，日軍逃路途中，又遭義軍伏擊，近衛師團長北白川能久親王中將也受重傷後死亡。
在嘉南平原，日寇利用集團兵力和重型武器便於展開的優勢，加快了進攻步伐。從10月8日起，日軍猛攻嘉義城，激戰中義軍指揮員、總兵柏正材，營官陳開檍，同知馮練芳，武舉劉步升，生員楊文豹等壯烈犧牲。徐驤、王德標、簡精華退往後山。第二天，嘉義城陷落敵手，台南地區暴露在日寇面前。
曾文溪成為雙方決戰的戰場。10月10日，在日本貞愛親王和台灣副總督高島鞆之助指揮下，日軍混成第四旅為主力的4萬餘人集結曾文溪，從海陸兩路包圍台南，曾文溪是主戰場。激戰中義軍統領徐驤、生員林昆崗、清軍統領王德標和簡精華等人先後殉國，抗日義軍傷亡很大。10月13日，日本海軍開始進攻台南旗後炮臺，二天后日軍開始向台南城發動攻擊。到18日抗日義軍和黑旗軍官兵已經餓得站不起來，無力抵抗窮兇極惡的日軍的進攻，19日劉永福不得不下令義軍撤出城外。10月21日，日寇進入台南；11月1日，最後的抗日基地恒春也落入敵手。11月28日，樺山資紀總督向日本大本營報告：“全臺完全平定”。在侵略者的獰笑聲中，台灣開始了50年的殖民統治。
讓日本方面感到不可思議的是，佔領一個面積有限、防衛力量甚微的台灣島，竟然花出如此大的代價。日本為侵佔台灣，在近半年的時間內，動用陸軍7萬餘人，軍馬9400余匹；海軍軍艦40余艘、各類艦艇數百隻；其他人員一萬多人，總共約10萬多人。在裝備土槍土炮大刀長矛的義軍進攻下，包括近衛師團長北白川能久親王、近衛第二旅團長山根信成在內的4642人死亡，另外傷病疫人數高達27000人。日本的傷亡遠遠超過在甲午戰爭中的損失，日寇在這些數字面前不知道想了些什麼。
