因为葛品连经常不在家，詹氏常叫小白菜到家里与杨家人一起吃饭。小白菜也常请杨乃武教她识字念经。两家相处很融洽。小白菜从前经常遭到市井无赖的欺侮，自从搬到杨家后，那些无赖再也不敢来了，因为杨乃武见到他们是要骂的。那些地痞便制造谣言说“羊吃白菜”。谣言传到了葛品连耳里，他渐渐起了疑心。于是有几个夜晚，他潜回家里，在屋檐下偷听，除了听见杨乃武教小白菜读经卷以外并没有听见任何私情。接着，葛品连将谣言和偷听情形，告诉了母亲沈喻氏。沈喻氏来杨乃武家时，也看到过小白菜和杨乃武夫妇及杨菊贞同桌吃饭，听品连这么一说，心里不禁也有些怀疑。沈喻氏原是个糊涂人，竟愚蠢地和邻舍谈起这事，于是街闾遍传，流言就更多了，而杨家人还蒙在鼓里。
一天，葛品连回到家中，杨乃武向他讨取房租，因房租已经欠了几个月了。葛没有钱便向沈喻氏商借，沈喻氏说，外间闲言很多，为了避嫌，最好另行租房居住。于是同治十二年(1873)闰六月，葛品连与小白菜移居到太平弄口喻敬天表弟王心培家。自小白菜搬走后，杨乃武从未去过小白菜家，小白菜也没有再来过杨乃武家。
搬到王心培家以后，小白菜又经常受到外人欺侮。县衙门有个捕役名叫阮德，他有个姐姐叫阮桂金，已经嫁过三个男人，与粮胥何春芳有染。县官刘锡彤有个儿子叫刘子翰，是个花花公子，经常与何春芳在一起冶游，素知小白菜美而艳，垂涎欲滴已久，于是和一个同他相好的佣妇计谋把小白菜搞到手。一天，佣妇以他事诱骗小白菜到她家，小白菜到达时，刘子翰已在那里恭候多时，见到小白菜容貌分外俏丽，色胆包天，便将小白菜强暴了。小白菜心中无比痛恨，却又畏惧刘子翰的权势，又害怕事情败露后丈夫不能原谅自己，因此一肚子苦水不敢声张。然而恶毒的佣妇却将此事泄露给阮桂金，阮桂金又告诉了何春芳。何春芳早就想染指小白菜，于是于八月二十四日潜入葛家，正好王心培夫妇不在家，何春芳便以刘子翰之事相要挟企图强暴小白菜。两人正在厮打之时，葛品连从外面进来，小白菜哭泣不止。葛品连大骂何春芳，何春芳灰溜溜地走了。葛品连即责骂小白菜，认为在杨家的时候已有谣言，现在又发生这样的事，怀疑小白菜行为不端。从这以后，葛对小白菜经常非打即骂。有一次，葛让小白菜腌菜，晚上回家的时候看到还没有腌，立即将小白菜痛打一顿，小白菜气得把头发剪掉，要去当尼姑。二人的母亲沈喻氏和喻王氏闻讯赶来，询问王心培，知道了吵闹原因。小白菜的母亲气得直哭，说腌菜小事，何必这样痛打。葛品连的母亲也责骂他不该这样，葛品连说是打她一顿出出气。经劝解后，二人和好如初。
十月初七日，葛品连突然身发寒热，双膝红肿。小白菜见他有流火症状，劝他请个替工，休息两天。葛不听，仍然到豆腐作坊上工。初九日早晨，葛身体支持不住了，便往家走，路过点心店，买了几个粉团边走边吃，走到学宫化字炉前竟呕吐不止。回到家时已两手抱肩，发寒发抖，呻吟不绝。小白菜连忙扶他上楼，给他脱掉外衣，盖上两床被子。问他病情，说是初七日到作坊去，两天来身体总是忽冷忽热的，恐怕是疾发气弱，让小白菜拿1000文钱托喻敬天代买东洋参和桂元。买来后，小白菜煎成汤给他服下，并请王心培的妻子去告知喻王氏。喻王氏赶来时，葛品连仍然卧床发抖，时欲呕吐，她照料了半天便回家去了。下午，小白菜见葛喉中痰响，口吐白沫，问他怎么样，他已不能说话。小白菜急得喊叫出来，王心培闻声上楼，小白菜告知情由，王心培马上去叫沈喻氏和喻王氏。二人赶到时，葛已经不能张口了，急忙把医生找来，说是痧症，用万年青萝卜籽煎汤灌救无效，气绝身亡。家人悲痛欲绝，为葛换了衣裳，尸体正常，并无异样，当时都没有什么怀疑。
葛死时正是十月，气候很暖，葛身体肥胖，初十夜间尸体口鼻内有淡血水流出。葛品连的干娘冯许氏对沈喻氏说，葛死得可疑。沈喻氏见尸体脸色发青，也起了疑心。就盘问小白菜，小白菜说并无别样事情。冯许氏叫来地保杨仁，请他代写呈词，准备到县衙喊告。呈词中仅说死因不明，并未涉及任何人。十一日黎明，杨仁、沈喻氏赴县衙喊告，县官刘锡彤听说出了命案，赶紧带领仵作前往验尸。这时候正好当地有一个绅士陈湖到县衙来给人看病。陈湖是个秀才，懂得一点医道，平日里与杨乃武不睦，因为杨乃武的谤诗里也提到过他。他听说葛品连身死不明，便对刘锡彤说，外面早就有传言说杨乃武与小白菜有私情，现在葛品连暴死，内中恐有别情。刘锡彤听说，忙叫人去打听，果然有这种说法，随即前往验尸。当时尸体已经膨胀，上身淡青色，肉色红紫，仵作沈祥辨认不真，把手指脚趾灰暗色认作青黑色;口鼻里血水流入两耳认做七窍流血;用银针探入喉管是淡青色认作青黑色;银针抽出时，并未用皂角水擦洗即认作服毒。因为尸体没有僵硬，仵作说成是烟毒。门丁沈彩泉听信了陈湖的话，就说不是烟毒，一定是有人用砒霜毒死。一个说是烟毒，一个说是砒毒，争论不休，仵作便含糊报称是服毒而死。刘锡彤听说是服毒身死，立即传问葛品连的邻舍，都不知毒药从何而来。刘锡彤也因为有陈湖之言，已怀疑与小白菜有关，当即将小白菜带回县署。
