Es ist schwer für mich aufzuzählen, welches System wofür geeignet wäre. Grade kleinere Systeme sind oft sehr spezifisch, entweder auf Spielstil oder auf Thema. Da gäbe es verdammt viel aufzuzählen (und bei jedem recht viel zu erklären, warum es wann was gut kann, und unter welchen Umständen), und viele in meiner Sammlung (sowieso viel zu viele um jedes hier zu erwähnen) hab ich mir zwar durchgelesen, aber noch nie testen können.
"Theory-crafting" ist halt auch nur bedingt aussagefähig.
Hillfolk (weil es mir grad als erstes einfällt) scheint z.B. ein echt gutes System für Drama zwischen den Spielercharakteren zu sein, aber ist so anders darin, wie eine Geschichte bzw. Rollenspielrunde funktionieren soll, dass es mit Vorstellungen von üblichen Kampagnen und Abenteuern massiv aneckt (bewusst, aber macht es halt schwer, es Spielern näher zu bringen).
(In Hillfolk geht es primär um sich ständig dynamisch verändernde Beziehungen zwischen den SCs, und um das Innenleben der SCs. Ein Plot ist eher ein Aufhänger, um den Status quo durcheinander zu bringen und Änderungen in und zwischen den Charakteren auszulösen als der eigentliche Fokus einer Spielrunde. Und man sollte auch nicht daran hängen, seinen Spielercharakter erfolgreich sein zu lassen, sondern daran, dass die Geschichte insgesamt interessant ist.
Wird oft mit Serien wie Breaking Bad verglichen, aber keine Ahnung wie gut der Vergleich passt, ich kenn die ganzen Serien nicht. Wobei, grad für Breaking Bad hätte ich auch Cartel rumliegen als noch spzifischer drauf zugschnittenes System.)
Wie gut es in der Praxis funktioniert? Keine Ahnung, aber es scheint mir sehr spezifische Spieler zu benötigen, damit es funktioniert, die dann auch noch relativ konzentriert sein müssen aufs Spiel (und teils mehr auf die gemeinsame Geschichte als auf ihren Charakter). Dafür ist es dann aber potenziell echt super.
Aber es bringt sowieso auch wenig, das vermutlich perfekte System für eine bestimmte Runde gefunden zu haben, wenn dann von den Spielern ein "Ich will jetzt kein neues System lernen, können wir das nicht auch mit XY machen?" kommt. Was erfahrungsgemäß bei nicht so wenigen Spielern vorkommt.
Deshalb wird dann oft auf ein für die Runde suboptimales System zurückgegriffen, teilweise mit ein paar Hausregeln zumindest ein bisschen in die richttige Richtung gebogen (aber teilweise merkt man dann beim spielen, dass irgendwas dadurch komplett bricht). Das muss nicht nur am Spieltisch passieren, auch viele Publisher machen es so, eine bekannte "Engine" für was anderes zu verwenden, wofür sie eigentlich nicht wirklich gut geeignet ist (D&D5-basierte grimdark oder Horror/Dark-Fantasy-Sachen z.B.), damit sie auch Spieler bekommen.
Oft ist es "gut genug", damit alle am Tisch ganz gut Spass haben (und darauf kommt es ja letztendlich an), aber als "alter Hase", der viele Systeme kennt, nagt es halt oft an einem, im Hinterkopf zu haben, dass es vermutlich noch besser ginge. Vielleicht wäre für diese Runde Trail of Cthulhu noch passender als Call of Cthulhu? Aber Call of Cthulhu kennen halt mehr, deshalb wird das gespielt, weil Cthulhu ist Cthulhu, oder?
Das Hausregeln- und System-verbiegen-Problem kann man natürlich reduzieren, wenn man ein möglichst universal verwendbares System einmal ausreichend bei seinen Spielern etableirt hat, dass man es dann für viele verschiedene Runden einsetzen kann. Sicher, es wird selten perfekt passen, aber deutlich besser (und weniger Aufwand), als wenn man versucht, ein deutlich starrer genre-, setting- und/oder spielstil-spezialisiertes System wie D&D oder DSA oder Shadowrun zu "modden".
(Persönlich hab ich da mit der Chronicles of Darkness/"new World of Darkness"-Engine noch vergleichsweise gute Erfahrungen gemacht, auch außerhalb von Urban Fantasy-/Horror-Runden.)
GURPS (4) ist für so was z.B. ein System, das ich grundsätzlich ziemlich gut finde, solange es darum geht, halbwegs realistische und detaillierte Simulation auf niedrigem bis mittlerem Power-Level zu machen. Allerdings erfordert es, damit es sein Potenzial wirklich ausspielen kann, auch Spieler, die bereit sind, sich mit dem System und seinen vielen Möglichkeiten etwas zu beschäftigen, sowie eventuell einiges an Vorbereitung für den SL (Auswahl von Skills, Vorteilen etc., festlegen eines Magiesystems etc.)
Einige Konzepte wie Punkte für Nachteile oder verschiedene Möglichkeiten, das gleiche zu bekommen (für oft stark unterschiedliche Kosten), oder auch der auf niedrigen Tech-Levels (ohne Powers) oft recht zufällige Schaden, sind nicht optimal (und teilweise einfach dem Alter von GURPS, inklusive früherer Editionen, geschuldet). Da muss dann in vielen Fällen der SL Veto einlegen oder anderweitig einschreiten. Aber als ziemlich setting-unabhängiges System ist es immer noch ziemlich gut. Ich habe recht gute Erfahrungen gemacht damit, auch einzelne "extremere" Casual-Gamer verträgt es noch, und zumindest ein paar Leute kennen es.