如果不出意外，施瓦茨曼在公司中完全有机会进一步提升，因为当时担任雷曼兄弟董事长兼首席执行官的皮特·彼得森 不仅对施瓦茨曼非常赏识，而且二人在工作和生活中还建立了不错的私人友谊。然而，雷曼兄弟不久之后爆发的“萧墙之乱”，打断了施瓦茨曼的商业人生轨迹。在彼得森辞职并离开雷曼兄弟公司后，出于对上司和朋友的忠诚，施瓦茨曼也义无返顾地递交了辞呈。

　　离开雷曼兄弟时，施瓦茨曼庆幸自己的银行账户上已经积累起20万美元，加上彼得森手上的20万美元，施瓦茨曼主动向对方提出合资成立一家小型并购公司的建议，并得到彼得森的认同。半个月之后，没有举行任何开业仪式，只有两个合伙人和两个助理的黑石公司成立了。由于彼得森和施瓦茨曼的姓氏分别嵌着德文中“黑色”和希腊文中“石头”的词义，为了表示对两人祖籍的一种纪念，他们将自己的新公司取名为“黑石”。

　　在施瓦茨曼看来，自己主张成立并购公司并非没有道理。在华尔街，当时以RJR Nabisco公司杠杆收购案为代表的收购狂潮一浪高过一浪，并且那些战略买家几乎都赚得盆满钵盈。施瓦茨曼无疑也想创造以小博大的奇迹。然而，有谁会轻易把动辄数千万美元大单交给一个无名之辈“黑石”呢？在开张几个月仅仅接收了一单小生意后，施瓦茨曼决定借鸡生蛋，创立私募基金。

　　黑石的及时转向，完全是 施瓦茨曼受到了华尔街当时一家新崛起的私募股权投资基金KKR的启发。“你看看人家KKR干的，”KKR在1980年代中期杠杆收购热潮中的辉煌，令施瓦茨曼记忆犹新。“我们当时就知道，这是一种能赚大钱的生意。”不过，说起来容易做起来难。在当时的华尔街，私募基金被首席执行官和董事会视为旁门左道，像黑石这样的新基金公司想打开局面，谈何容易！倔强的施瓦茨曼只能硬着头皮一家接着一家地敲开他自己认为可能投钱的客户的大门，吃了无数次闭门羹。

　　“被我们视为最可能点头的19家客户，一个个拒绝我们。总共有488个潜在投资人拒绝我们。”施瓦茨曼回忆说。

　　苍天不负有心人，为施瓦茨曼的坦诚和抱负所打动，美国保险及证券巨头保德信公司（Prudential Financial）决定尝试性投下1亿美元。正是这笔钱让后来者看到了黑石的潜力。不久，通用电气总裁杰克·韦尔奇也入伙了。黑石的第一只基金吸引了32个投资人，包括大都会人寿、通用电气、日本日兴证券以及其他几个大企业的退休金。