姚鼐治学以经学为主，兼及子史、诗文。他文宗方苞，师承刘大櫆，主张“有所法而后能，有所变而后大”，在方苞重义理、刘大櫆长于辞章的基础上，提出“义理、考据、辞章”三者不可偏废，发展和完善了桐城派文论。为桐城派散文之集大成者。著有《惜抱轩诗文集》，编有《古文辞类纂》等。
文论
姚鼐与创始人方苞、刘大櫆并称为“桐城三祖”，其在继方、刘已有成就的基础上提倡文章要“义理”、“考证、“辞章”三者相互为用。所谓“义理”就是程朱理学；“考证”就是对古代文献、文义、字句的考据；“辞章”就是写文章要讲求文采。这些主张充实了散文的写作内容，是对方苞“义法”，说的补充和发展。
桐城派古文到了姚鼐形成完整的理论体系。姚鼐著有《惜抱轩全集》，所编《古文辞类纂》风行一时，有力地扩大了桐城派的影响。鼐对传统文论的另一重大贡献是提出富有创见性的“阴阳刚柔说”，这对我国古代散文审美理论和风格特征是一次重大突破。他认为，“天地之道，阴阳刚柔而已。文者天地之精英，而阴阳刚柔之发也。”文章阴阳刚柔的变化，乃是作者性格、气质、品德的表现。鼐在发展前辈的文学思想上，用阴阳刚柔这个哲学概念来解释文章风格的来源和散文的风格特点，其中包含着朴素的唯物论和辩证法思想。
姚鼐提出文章的核心在于“义理、考据、辞章”三者的统一，这有其时代的原因。姚鼐在乾隆年间走上文坛。清代的考据风气也在这时开始盛行。人们称这种考据的功夫为“汉学”，与之相对的是势力较弱的“宋学”。学界多推崇汉学，对宋明理学比较厌弃，这往往导致文章的思想性降低。姚鼐不赞成排斥宋学的倾向，同时又针对汉学家、宋学家对文学的轻视态度，提出义理、考证、文章三者不可偏废的主张。这成为桐城派古文理论的纲领。
“义理”，是指当时的理学思想，主要来自宋学；“考据”，是指文章要有实据，避免空泛，主要来自汉学；“辞章”，是指文章还要有结构、文字、音韵上的文学之美。姚鼐认为三者的统一才是最高最美的境界，“苟善用之，则皆足以相继；苟不善用之，则或至于相害。”当然，三者有轻有重，考据要为义理服务。姚鼐想调和汉宋，融贯三者，认为作家能兼三者之长的为好作家。这种主张实际上成为了桐城派的文学纲领。姚鼐自己也身体力行，乾隆三十九年（1774年），在朝廷任职的姚鼐来到山东，登上了东岳泰山，后来就有了著名的《登泰山记》一文。全篇仅数百字，内容十分丰富，是融考证与辞章的典范。文章从泰山南北的汶水、济水写起，内容涉及天门、岱祠等诸多古迹，辞章优美。
“义理、考据、辞章”对当时和后世都影响巨大。一方面，姚鼐实际上是站在维护理学的立场上，企图调和汉宋的争论，兼采考据的长处，以考据充实理学的空疏，从而提高桐城派古文的价值。一方面，这一主张如果推而广之，那麽可以看作是对文章基本的要求。无论何时都同样有重要意义：“义理”要求言之有物，有思想性；“考据”要求立论扎实，有说服力；“辞章”要求字通句顺，有艺术性。
艺术风格
姚鼐为文“以神、韵为宗”，形成一种迂徐深婉，一唱三叹，而又耐人寻味，意蕴无穷的风格。近代学者章太炎谓之“谨”，刘师培称之“丰韵”，都是对其文风的富于韵味、言简意丰的高度评价。
诗歌
姚鼐的诗歌早年模仿明七子学唐诗，晚年兼取宋人，格意俱高，在当时俨然为一大家，故后人称“惜抱诗精深博大，足为正宗”。
诗论
姚鼐诗论最大的特色即是文人论诗。所谓文人论诗，就是站在文人的立场对诗歌提出一些逾越诗歌本体范畴的要求。姚鼐信奉程朱理学，因此对诗歌提出了载道的要求；基于载道的要求，他还特别强调诗歌创作主体的“学问”与道德修养；文人论诗体现在审美趣味上，他将诗文并举，以文诗，认为诗歌与散文具有同样的审美规律，他的散文理论同时也是诗歌理论。
特点
以散文章法为诗是姚鼐以文法写诗的重要特点，姚诗无论古体还是今体，多用散文章法为之。古体诗或朴实无华，条理通畅，文气通贯；或层次严密，波澜起伏，内容充实而富于变化；今体诗则多采用一气流走式的章法，承转自如，意脉分明。姚鼐的古体诗多为长诗，善于在古体长诗中运用散文的章法结构，或用散文平铺直叙的章法形式，行文布局顺应于思想内容的发展变化，使得诗歌条理疏畅，文气通贯。
这种章法类似于“赋”，但又往往只是对事件的一个简单交代，没有“赋”法的形象性和具体性。如《lt;九客图gt;歌为王镇之中丞赋》，诗歌首先点题，说乾隆朝人才辈出，图中九客是杰出代表；其次就交代作者认识九客除王中丞外的经过；再次，笔锋转回现实，感慨岁月催人老，称赞九客才高直节，文章皆流千古，守正不阿，敢于直谏，王中丞贵而能贫，高风亮节；最后，照应题目。整首诗质朴无文，文气通贯，与一篇记事散文无有二致。
姚鼐喜欢在诗歌中议论说理，以议论为诗是姚诗审美特点之一。姚诗中的议论有四种情况：第一种，诗歌用叙述性的语言来阐述一个道理，以意为主，是比较特殊的以议论为诗。第二种，诗歌直截了当地议论说理，不借助任何意象，这类诗有押韵之文的嫌疑。第三种，议论穿插于诗歌之中，和整首诗歌紧密结合在一起，属于该诗的思想中心。第四种，议论与意象融合，这种议论入诗自然而贴切。
姚鼐主张学问与诗歌相济，但承认诗歌的独立性，主张化学问为知识涵养，而非生硬地在诗歌中饾饤学问，所以他很少在诗歌中直接表现学术内容，也不喜堆砌典故，和那些专用考据学问与学术方法写诗的以学为诗者有所区别，他“以学为诗”的审美趣味表现出他独有的特点。