Allowed memory size of ... bytes exhausted

[sallow2001]

Hallo.

Ich bekomme bei einem Skript, das nachts per Cronjob gestartet wird, desöfteren die Meldung

Fatal error: Allowed memory size of ... bytes exhausted (tried to allocate ... bytes) in /usr/share/php/MDB2.php on line 4266

Bei dem Skript geht es darum, dass eine ca. 6 MB große Datei eingelesen, die Daten verarbeitet und in die MySQL-Datenbank geschrieben werden.

Ich habe darauf geachtet, nicht mehr genutzte Variablen mit unset() zu löschen und auch sonst keinen Speicher zu verschwenden.

memory_limit steht mittlerweile auf 512 MB, was meiner Meinung nach mehr aus ausreichend sein sollte.

In der BUG-Liste auf pear.php.net wird von einem Memory-Leak in MDB2 berichtet, der auftritt, wenn man einen INSERT von Daten macht und dieser INSERT nicht ausgeführt werden kann, weil bspw. der Datensatz schon vorhanden ist.

So einen INSERT gibt es bei mir aber nicht. Es gibt in dem Skript keinen SQL, bei dem ich eine ggf. erwartete Fehlerrückmeldung als Information nutze. Alle SQLs sind Standard-Zugriffe.

Was nun ganz besonders merkwürdig ist: Wenn das Skript wieder einmal einen Fehler auswirft, erhalte ich am nächsten Tag eine Mail.
Starte ich das Skript nun manuell im Browser, läuft das Skript immer ohne Fehler durch. Selbst als die Datei mal 24 MB groß war und ich das Skript manuell gestartet habe, ist es einwandfrei und in wenigen Sekunden durchgelaufen.

Hat jemand eine Idee, woran es noch liegen könnte bzw. sind jemandem noch andere MDB2-Leaks bekannt?
Was mich ganz besonders interessiert: Wieso kann bei einem Cronjob der Fehler auftreten und beim manuellen Starten nicht? Oder war das nun "Zufall"? (Kann ich mir aufgrund der Häufigkeit eigentlich nicht vorstellen.)

Danke im Voraus für Ideen und Anregungen.

cya

P.S.:
Da das Skript zahlreiche andere Skripte inkludiert und recht groß ist, kann ich's hier nicht posten. Ich denke auch nicht, dass es zur Fehleranalyse beitragen würde, da das Skript ja an sich einwandfrei funktioniert.

[combie]

Schwer zu helfen.....
Kein Code... nix ....

Warum schneidest du die Zahlenwert aus der Fehlermeldung?


Tipp:
Wenn die Fehlermeldung in einer MDB2 Datei geworfen wird, heißt das noch lange nicht, dass der Fehler auch dort steckt.

[sallow2001]

Schwer zu helfen.....
Kein Code... nix ....

Können wir einfach mal davon ausgehen, dass es nicht am Code liegt?

Der Code liest eine Datei mit file_get_contents() ein, verarbeitet die Daten und schreibt sie in die Datenbank.

Warum schneidest du die Zahlenwert aus der Fehlermeldung?

Weil die Zahlen sowieso variieren und erfahrungsgemäß keine relevante Aussage in Bezug auf den Fehler sind. (Siehe Google: Oben genannte Fehlermeldung wird mehrere 100.000 Mal gefunden, aber die Byte-Angaben sind sehr verschieden.)

cya

[combie]

Nein!
Wenn du die Zahlen (und den Code) verheimlichen musst, dann musst du das.
Dann musst du auch auf meine Hilfe verzichten.
So kann ich noch nicht mal sehen, ob deine memory_limit Angabe stimmig ist....


Tipp:
Wenn deine Debug Fähigkeiten so weit ausgebildet wären, dass du dir und deinen Annahmen trauen könntest, dann müsstest du nicht fragen.


Beispiel:
Du: Hilfe mein Auto springt nicht an!
Ich: Was für ein Auto?
Du: Geheim!
Ich: Diesel, Benzin, oder was?
Du Geheim!
Ich: Was kannst du mir denn über das Auto sagen?
Du: Es hat 4 Räder, welche bis zum Boden gehen und es ist rot.
Ich: Tschüss.

[wahsaga]

memory_limit steht mittlerweile auf 512 MB, was meiner Meinung nach mehr aus ausreichend sein sollte.

Auch für Scripte, die per Cronjob gestartet werden – oder nur für solche, die über den Webserver aufgerufen werden …?

PHP CLI nutzt oft eine andere php.ini, als die PHP-Einbindung im Webserver.

Das würde auch erklären, warum du ein in der Cronjob-Ausführung abgebrochenes Script am nächsten Tag problemlos per Webserver laufen lassen kannst …

[sallow2001]

Jesus Christus. Wer ist Dir denn auf den Schlips getreten?

Wenn du die Zahlen (und den Code) verheimlichen musst, dann musst du das.

Ich muss es nicht, aber ich kann es, da die Zahlen nichts mit dem eigentlichen Fehler zu tun haben.

Die Byte-Angabe bei dieser Fehlermeldung variiert. Das weiß ich aus Erfahrung. Dasselbe Skript kann unterschiedliche Byte-Werte auswerfen.

Und den Code kann ich nicht posten. Das Skript selber ist knapp 1000 Zeilen lang.
Eingebunden werden Dateien mit Konfigurationsparametern und Funktionen. Ebenfalls um die 600 Zeilen.

Die Datenbank-Zugriffe erfolgen über eine DB-Klasse

class dbaccess extends MDB2
{
}

Somit müsste ich die Klasse dbaccess mit den relevanten SQL-Anweisung auch noch posten. Wieder 150 Zeilen.

Und die PEAR-Klasse MDB2 wird ja nun auch genutzt. Keine Ahnung, wieviele Zeilen das sind, aber soll ich die auch in meinen Beitrag einfügen?

Sorry, ich weiß, wie sinnvoll es ist, den Quellcode zu haben, wenn man nach einem Fehler sucht.
Aber es geht hier nicht um eine FOR-Schleife, die nicht funktioniert, sondern um einen kleinen Teil aus einem Projekt mit 150.000 Zeilen.

Da kann ich auch nicht den irrelevanten Code entfernen und nur das posten, was explizit genutzt wird. Daran würde ich Stunden sitzen.

Und selbst wenn, wären das immer noch mehrere 100 Zeilen Code.

Ungeachtet dessen wäre auch noch relevant, was denn an Daten verarbeitet wird (wenn wir schon "richtig" Debuggen wollen) und die willst Du ja auch nicht sehen, oder?

Okay, Entschuldigung, vielleicht habe ich meine Anfrage auch nicht klar genug definiert: Es geht nicht darum, in meinem Code einen Fehler zu suchen. (Ja, so arrogant bin ich, dass ich behaupte, dass es nicht am Code liegt.)

Es geht darum, ob

a)
jemandem bekannt ist, welche Leaks MDB2 (MySQL?) hat, die für o.g. Problem sorgen könnten

und

b)
jemand weiß, wieso ein Skript per Cronjob abbricht, aber beim manuellen Start einwandfrei durchläuft.

So kann ich noch nicht mal sehen, ob deine memory_limit Angabe stimmig ist....

Vertraue mir. Ich bin durchaus in der Lage, phpinfo() zu benutzen und in die Server-Config zu gucken.

Beispiel:

Nett, aber falsches Beispiel.

Ich möchte nicht wissen, wieso mein Auto nicht anspringt, sondern ich möchte wissen, wieso ich trotz einwandfrei funktionierendem Auto nicht von A nach B komme. Liegen auf der Strecke vielleicht Bäume auf der Straße, die mein Auto an der Weiterfahrt hindern?

cya

[Quetschi]

Nutzt dein PHP auf Kommandozeilenebene eine andere ini-datei als im Webserver-Kontext?

[sallow2001]

PHP CLI nutzt oft eine andere php.ini, als die PHP-Einbindung im Webserver.

Aha! DAS wusste ich nicht. Vielen Dank für diese Info.

Hab' auf dem Server danach gesucht und siehe da: 32M

@combie:
Ich bin mir jetzt nicht sicher, ob ich mich bei Dir entschuldigen muss oder nicht.
Hättest Du wirklich anhand der Byte-Zahl erkannt, dass eine andere php.ini eingebunden und somit ein anderes Memory-Limit genutzt wird?
Falls ja: Entschuldigung.

@Quetsch
@wahsaga
Danke. Wert ist geändert. Ob's etwas hilft, sehe ich, sobald wieder Dateien eingelesen werden. (Passiert aber nur 1x die Woche, also dauert's etwas, bis ich Gewissheit habe.)

cya

[combie]

@combie:
Ich bin mir jetzt nicht sicher, ob ich mich bei Dir entschuldigen muss oder nicht.
Hättest Du wirklich anhand der Byte-Zahl erkannt, dass eine andere php.ini eingebunden und somit ein anderes Memory-Limit genutzt wird?
Falls ja: Entschuldigung.

Ja!
Und akzeptiert.

[Quetschi]

@sallow
Das hätte er, denn diese Angabe hätte gezeigt mit welcher Einstellung das Script aktuell läuft und wenn sich hier ein Widerspruch zu deinen Angaben bzgl. php.ini ergibt, ist der Fall zu 99% klar.

Die Leute hier wissen sehr gut, welche Fragen sie stellen müssen bzw. welche Infos sie brauchen um helfen zu können - wenn du dich dann aus unerfindlichen Gründen drum herumwindest, kanns halt passieren, dass manche die Lust verlieren dir Hilfestellung zu geben.

[sallow2001]

Leider wurden alle LOGs gelöscht/geleert, so dass ich keine Beispiele mehr finde.

Ich bin mir aber sehr, sehr sicher, dass die betreffenden Zahlen ganz extrem variieren.

Aber okay. Wenn ihr sagt, dass man daran etwas erkannt hätte, glaube ich Euch das natürlich.

Sorry.

[combie]

Fatal error: Allowed memory size of [COLOR="Red"]XXXXXXXXXX [/COLOR]bytes exhausted (tried to allocate ... bytes) in /usr/share/php/MDB2.php on line 4266

Die roten Xse stehen für den eingestellten Wert.
In deinem Fall, bei 32MB, wären das 33554432 Byte
Der andere Zahlenwert wird (von mir aus auch extrem) variieren.

[Quetschi]

Eine solche Meldung sieht typischerweise so aus:

Fatal error: Allowed memory size of 654321 bytes exhausted (tried to allocate 12345 bytes) in /srv/www/user/bla/blub/file.php on line 123

Der erste Wert (654321) wird sich nicht ändern - der zeigt an, was in der php.ini vorgegeben wurde. Der zweite Wert kommt durch die zu verarbeitenden Daten zustande - dieser variiert dann entsprechend. Am ersten Wert kann man sehen ob dieser von dem abweicht, der in deiner php.ini steht - ist das der Fall, ist in der Regel schlicht eine andere php.ini geladen.

[sallow2001]

Okay.