康有為離開京師后，強學會的主要領導人為帝黨人物陳熾。但過了不久，強學會卻變成了以陳熾、丁立鈞、張孝謙、沈曾植四人為總董，而以張“主其事”的格局。張孝謙為人“故反覆”，做事也不太有“經緯”，他只是憑借與李鴻藻的特殊關系，以李為靠山，便“意見重，氣焰大”，“以局為其局”，將強學會看做自家的私有財產和自己的政治資本，聯合丁立鈞排斥陳熾、沈曾植等人。強學會的其他政治勢力與人物由于幻想借重李鴻藻的政治勢力以謀發展，故而對張孝謙的專橫過于遷就退讓，終于使強學會的領導權旁落，組織渙散，差不多達到不戰而敗的結局。

強學會的內部人事格局決定它不可能長久存在，而其外部環境也使得強學會很難獲得新的進展。強學會的創辦本為后黨所不容，后黨中的重要人物李鴻章在強學會成立之初曾向強學會的負責人表示有化解隔閡的愿望與誠意，并答應向強學會捐款。但是，強學會的負責人沒有真正理解李鴻章的意圖，反而因李鴻章剛剛簽定過喪權辱國的《馬關條約》為由拒絕了李鴻章的捐款。這樣，雙方的矛盾與隔閡越來越深。原本可以支持改革的李鴻章對強學會諸人的好感至此蕩然無存，他在奉命出使俄國前曾揚言：“若輩與我過不去，我歸，看他們尚做得成官嗎？”這雖然有點“小說家言”的味道，但確實反映了李鴻章此時的心態。于是乘李鴻藻“赴陵差”的機會，“欲借此以興大獄”，指使其兒女親家、御史楊崇伊于1896年1月20日上折彈劾強學會“私立會黨”、“植黨營私”，請求清政府下令查封。

清廷在收到楊崇伊的奏折之后，即著都察院查明封禁。當天中午，張孝謙得到這個消息，就嚇得驚慌失措，一方面立即“囑速遷”，另一方面派人向李鴻章“獻好”，乞求李鴻章手下留情。強學會的另一負責人丁立鈞甚至“泣下”，想趕緊將書籍交還同文館。褚成博、張仲炘等人更是嚇得“紛紛逃匿”。只有沈曾植、梁啟超、楊銳、汪大燮、王鵬運等人還算冷靜，主張具呈力爭。

面對清廷查禁強學會的命令，帝黨的中堅人物翁同龢仍在設法挽回。他密奏光緒帝說：“教育人才，自強之本，未可阻遏，使天下寒心。”他建議清廷不要盲目地查禁強學會，以免引起許多負面影響。

1月29日，對強學會愛護有加的李鴻藻回到北京。翁同龢迅速往見李，希望李設法勸清廷收回查禁強學會的成命。與此同時，翁同龢還利用此時紛紛議論開學堂的輿論機會，鼓動由御史胡孚宸出面上書，批駁守舊派官僚強加給京師強學會的污蔑不實之詞，指出強學會并沒有利用學會獲取經濟上的好處，更沒有違反法紀的事情，強調強學會下屬的強學書局所藏圖書除了列圣之訓及各種政書外，更多的則是同文館及上海制造局所刻西學著作，因此他建議清政府不要徹底查禁強學會，而是采取變通的辦法，將強學會改為官書局，“此日多一讀書人，即他日多一報國之人，收效似無淺鮮”。（胡孚宸：《書局有益人才，請飭籌社，以禆時局折》，轉引自林克光《革新派巨人康有為》，178頁，北京，中國人民大學出版社，1990。）他的這一建議既在事實上保住了強學會，也給予彈劾者以足夠的面子，未嘗不是兩全其美的辦法。于是清廷下令發還查抄的強學會的圖書、儀器等，設立京師官書局，指派孫家鼐負責管理，調集譯員選譯各國新報及各國史書，繼續承擔宣傳維新變法的功能。

強學會改為官書局，在事實上保住了強學會。然而當這個消息傳出后，強學會內部的一些投機者又開始了新一輪的政治投機，他們或“群奔走”于管學大臣，企圖在官書局中謀求到新的差使；（汪大燮：《致汪康年函》第63通，見上海圖書館編《汪康年師友書札》，722頁，上海古籍出版社，1986。）或把官書局作為一個在政治上升官發財的終南捷徑，趨之若鶩。只有那些真誠擁護維新改革的志士如陳熾、沈曾植、梁啟超等，不再參與其事，退出強學會，自然也就退出了由此而來的新辦的官書局。（吳櫵：《致汪康年書》，見丁文江等編《梁啟超年譜長編》，47頁，上海人民出版社，1983。）

在京師，由康、梁等維新志士創辦的強學會至此終結。

北京強學會的終結當然并不意味著維新運動的結束。事實上，當康有為離京南下，于10月29日抵達上海之始，就開始在上海這個相對更自由的城市創辦一個新的政治組織。

為了取得具有維新色彩的開明官僚張之洞的支持，康有為到上海不久即專程前往江寧游說署兩江總督張之洞，在張之洞那里前后盤桓有20余日，與張隔日一談，每談必至深夜，兩人在許多問題的看法上應該有足夠的共識。張之洞同意康有為在上海建立強學會的主張，并自愿捐款500兩，劃撥公款1000兩，以此充辦會的經費。

有了張之洞的支持，上海強學會的開辦比較順利。11月下旬，康有為偕同梁鼎芬、黃紹箕等人返回上海，很快便將籌備中的上海強學會的會所選在跑馬場西頭的王家沙1號。各項籌備工作有條不紊地進行著。

12月初，康有為撰就《上海強學會序》，然后以張之洞的名義先后刊布在《申報》《中外紀聞》及《強學報》上。（《上海強學會序》，見《康有為政論集》上冊，169頁。此序在《申報》《中外紀聞》《強學報》等報刊發表時，均署張之洞名。）康有為在這篇文章中重申和強化了他在北京《強學會序》中所陳述的觀點，以為西方近代國家之所以走向富強昌盛的關鍵，就在于他們找到了“合群”的方式與方法，那就是開辦學會、培養與積累人才。由此他認為，挽救中國的危亡在于開風氣，在于人才的培養與積累；而開風氣以及人才的培養與積累可以有多種辦法，但在目前中國最有效、最便捷的辦法就是講學術，講學術在合群。因此，康有為在這篇文章中借張之洞之口號召人們積極參加學會的活動，“以應天子側席之意，而濟中國之變”，為中國的富強昌盛而共同奮斗。

康有為在替張之洞撰寫了《上海強學會序》之后不久，又發表了《上海強學會后序》。他在這篇文章中依然重申先前組織學會有利于中國發展與富強的觀點，并以中外歷史教訓作為例證，強調當前的世界一個最明顯的趨勢就是“兼弱攻昧”，就是弱肉強食。因此落后的中國要想避免繼續落后，要想自立于世界民族之林，唯一的出路就是自強。自強之術有二，一是力強，一是智強。美國立國僅僅百年，但其所以強大，在于美國人善于組織學會，其百年間著書立說多于希臘、羅馬三千年，這就是智強。而智強的根本，不是一人逞智，而是群人共學，這是包括美國在內的西方列強之所以走向富強的根本；而反觀中國，在過去的一年里，中國之所以被彈丸小國日本打敗，割地賠款，喪權辱國，其主要的原因就是因為中國“散而不群，愚而不學之過也。今者思自保，在學之群之。”因此，康有為希望凡吾神明之胄、衣冠之族，思保其教，思保其類者，都應該“合群共學”，學習西方及東洋的團隊精神，結成一個強大的新民族、新國家。（《上海強學會后序》，見《康有為政論集》上冊，171—172頁。）

在進行輿論準備的同時，康有為也開始了組織上的準備與行動。在他與黃體芳、黃紹第、屠仁守、汪康年、鄒代鈞、梁鼎芬、黃遵憲、黃紹箕、左孝同、蒯光典、志鈞、張謇、沈瑜慶、喬樹柟、龍澤厚等16人于1895年12月聯名發表的公啟中，公布了《上海強學會章程》，正式開始籌建上海強學會。

《上海強學會章程》規定上海強學會是專門為了中國的自強而設立的政治組織和愛國團體，基本方法是聚天下之圖書器物，集天下之心思耳目，略仿中國古代學校之規及各家專門之法，以廣見聞而開風氣，上以廣先圣孔子之教，下以成國家有用之才；“專為聯人心，講學術，以保衛中國”。《上海強學會章程》規定上海強學會主要職能是辦好四件事：（1）翻譯和編印圖書。欲令天下士人皆通西學，莫若譯成中文之書，俾中國百萬學人人人能解，成才自眾，然后可給國家之用。（2）創辦報紙。（3）創立圖書館。近年西政西學，日新不已。今之聚書，務使海內學者知中國自古有窮理之學，而講求實用之意，亦未遽遜，正不必驚望而無極，更不宜畫界以自封。上海強學會準備先購置一套四庫全書，先搜其經世有用者，再旁及西人政教及各種學術圖書，以廣考鏡而備研求。（4）創立博物院。如有余力，上海強學會還計劃設立學堂以培養人才；設立講堂以傳播孔教；派員游歷西方、東洋及國內各地以考察地輿、礦務、風俗；設立養貧院以收容乞丐，教以工藝技術等等，顯然充滿著理想主義的色彩。

或許是鑒于京師強學會隊伍不純的經驗教訓，上海強學會在竭力吸引人才的同時，也較京師強學會規定了更為嚴格的入會條件，強調入會的成員應該是“品行心術端正明白”，“不論名位學業，但有志講求，概予延攬”。對于那些入會后可能會“別存意見，或誕妄挾議，及逞奇立異，或作奸犯科，致招物議”的人，《上海強學會章程》還規定了嚴格的處理辦法，即“公議辭退”。（《上海強學會章程》，見《康有為政論集》上冊，173—179頁。）

盡管上海強學會規定了比較嚴格的入會條件及處理辦法，但當上海強學會正式成立之后，實際上還是存在著激烈的內部沖突與斗爭。以康有為為首的維新派自然不滿意以張之洞為首的洋務派的政治、經濟、文化主張，以為洋務的主張顯然不再合乎中國當前的實際，而只有他們的變法維新主張才真正反映中國當時的社會需求。

對于康有為所主張的孔子改制問題，張之洞從一開始就不同意。他之所以以兩江總督的重位支持康有為在上海創辦強學會，實際上是想利用康有為當時的政治影響力、號召力以及他人所不具有的創辦學會、網羅人才的能力為自己所用，并為自己在即將到來的政治變革中撈取政治資本。這是老練的政治家張之洞的如意算盤。可惜，張之洞過于低估了康有為的政治堅定性及政治原則性。他先是當面委婉地勸說康有為以后不要再宣傳所謂孔子改制之類的荒唐學說，后又委派梁鼎芬去向康有為明確表達這個看法，梁鼎芬甚至代表張之洞表示，只要康有為明白宣布放棄所謂孔子改制說，張之洞就一定為上海強學會提供足夠的活動經費。張之洞相信，憑借他手中的政治權力以及他那頗為誘人的經濟支持，一定能夠說服康有為，使康有為放棄這種荒唐的學說，改弦易轍，回歸到他所主張的漸進的“中體西用”的改良路線上來，不要用西方那些激進的思想路線來破壞中國既成的發展模式。

孔子改制說不僅是康有為在中國學術史上的一大“發現”，而且實在說來也是康有為在甲午戰敗之后積極從事政治變革的思想理論基礎，因此他面對張之洞的威脅利誘并沒有屈服，他堅定地表示：“孔子改制，大道也。豈為一兩江總督供養易之哉？若使以供養而易其所學，香濤奚取焉？”（《康南海自編年譜》，31頁。）換言之，康有為不愿意為兩江總督張之洞提供的那點區區經費而放棄自己的原則和信仰。

康有為的不聽話與不合作無疑激怒了張之洞。張之洞一計不成，便轉而使用其他的伎倆。他已經明白，要讓康有為從理論和信仰上屈從自己的“中體西用”的政治改革模式已經相當困難。那么，兩害相權取其輕，張之洞便不再愿意在自己的轄區內發生什么激進的政治事件，更不愿意出現脫離自己掌控的激進的政治組織。鑒于他已經同意康有為在上海創辦上海強學會的事實，于是他只能加派自己的心腹去上海從組織上把握和掌控這一組織，孤立康有為，將這一政治組織在實際上變成自己所能把握的、具有可以接受的政治色彩的組織。

根據張之洞的安排，其心腹梁鼎芬、黃紹箕等人隨同康有為一起來到上海，參與籌辦上海強學會。他們除了負有從組織上掌控上海強學會的使命外，也帶有監督康有為的任務。這樣，上海強學會在籌辦之初就面臨著復雜的斗爭形勢。

即將正式開張的上海強學會能否在張之洞的掌控之下，在張之洞方面并無絕對把握。因此他在加派親信參與籌辦的同時，也試圖設法支走康有為。他利用康有為將回廣東為其母親祝壽的機會，勸告康有為不妨在廣東也創辦一個強學會，并建議由康有為主持廣東的強學會，另派他在湖北的舊屬汪康年到上海主持上海強學會。

張之洞的打算似乎已被康有為覺察，康有為不僅無意在廣東創辦新的學會，而且利用自己所掌握的領導權，在離開上海回鄉省親的時間空當里，根本無意征得張之洞的同意，便調徐勤、何樹齡來上海主辦《強學報》。

當張之洞發現康有為根本不接受他的建議，并背開他單獨進行強學會的活動時，他覺得應該與康有為劃清界限了。于是他致電康有為，提出停辦上海強學會，理由是“論學不合”。而康有為自此更無所顧忌，便以“會章大行，不能中止”為由拒絕張之洞的停辦要求。（《康有為自編年譜》，31頁。）