1919年4月24日，梁啟超從巴黎電告國民外交協會：「對德國事，聞將以青島直接交日本，因日使力爭結果，英法為所動。吾若認此，不啻加繩自縛，請警告政府及國民，嚴責各全權（代表），萬勿署名，以示決心。」
4月29-30日，參加巴黎和會的英美法3國代表召開會議，日本代表邀請出席，議定凡爾賽和約關於山東問題的條款（第156、157、158條），將德國在山東所攫取的權益讓與日本。
5月1日，中國談判代表、外務總長陸徵祥將此事電告北京政府，並稱如不簽約，則對撤廢領事裁判權、取消庚子賠款、關稅自主及賠償損失等等有所不利。北京政府外交委員會（總統府智囊機構）召開緊急會議，決定不簽約。上海《大陸報》「北京通訊」透露：「政府接巴黎中國代表電，謂關於索還膠州租借之對日外交戰爭，業已失敗。」
5月2日，北京政府以密電通知在巴黎的中國代表可以簽約。外交委員會事務長林長民在《晨報》、《國民公報》撰文呼籲：「山東亡矣，國將不國矣，願合四萬萬眾誓死圖之。」北大校長蔡元培將外交失敗消息通報學生。
5月3日，北京各界緊急磋商對策。當晚北大学生在北河沿北大法科禮堂召開學生大會，並約請北京13所中等以上學校代表參加，大會決定於4日（星期天）舉行示威遊行，地點：天安門。
5月4日上午10時，各校學生代表在法政專門學校召開碰頭會，商定了遊行路線。一些準備以暴力行動懲辦國賊的學生寫下遺書。下午1時，北京學生3000餘人從四面八方聚集天安門，現場懸掛北大学生「還我青島」血書。在短暫的集會演說之後，隊伍向使館區進發。行至東交民巷西口，受到巡捕阻攔，學生遂推舉代表請求會見4國公使。僅美國使館人員接受了學生的陳詞書，英法意使館均以公使不在為由拒絕接受。3000餘名學生在烈日下整整晒了兩個小時，見使館區不能通過，更加義憤滿腔，隊伍轉向趙家樓曹汝霖住宅。學生們邊行進，邊宣傳，「許多人民看見掉淚，許多西洋人看見脫帽喝彩，又有好些巡警也掉淚」。（《每周評論》1919年5月11日）下午4時許，學生湧至曹宅前。北京高師數理部學生匡互生率先跳入宅內並打開宅門，學生大隊涌入，痛打了正在曹宅的駐日公使章宗祥。學生遍尋曹汝霖不著，激憤之下，於4時30分左右怒燒其宅。之後軍警趕到，搜捕學生，被捕者共32人。
5月5日，北京各大專學校總罷課。遠在郊外、未參加4日行動的清華學生宣布「從今日起與各校一致行動」。