Wie führen Sie unter den neuen API-Änderungen die elementweise Multiplikation von Ebenen in Keras durch? Unter der alten API würde ich so etwas versuchen:
merge([dense_all, dense_att], output_shape=10, mode='mul')
Ich habe folgendes versucht (MWE):
from keras.models import Model
from keras.layers import Input, Dense, Multiply
def sample_model():
model_in = Input(shape=(10,))
dense_all = Dense(10,)(model_in)
dense_att = Dense(10, activation='softmax')(model_in)
att_mull = Multiply([dense_all, dense_att]) #merge([dense_all, dense_att], output_shape=10, mode='mul')
model_out = Dense(10, activation="sigmoid")(att_mull)
return 0
if __== '__main__':
sample_model()
Vollständige Spur:
Using TensorFlow backend.
Traceback (most recent call last):
File "testJan17.py", line 13, in <module>
sample_model()
File "testJan17.py", line 8, in sample_model
att_mull = Multiply([dense_all, dense_att]) #merge([dense_all, dense_att], output_shape=10, mode='mul')
TypeError: __init__() takes exactly 1 argument (2 given)
BEARBEITEN:
Ich habe versucht, die elementweise Multiplikationsfunktion von tensorflow zu implementieren. Natürlich ist das Ergebnis keine Layer()
-Instanz, daher funktioniert es nicht. Hier ist der Versuch für die Nachwelt:
def new_multiply(inputs): #assume two only - bad practice, but for illustration...
return tf.multiply(inputs[0], inputs[1])
def sample_model():
model_in = Input(shape=(10,))
dense_all = Dense(10,)(model_in)
dense_att = Dense(10, activation='softmax')(model_in) #which interactions are important?
new_mult = new_multiply([dense_all, dense_att])
model_out = Dense(10, activation="sigmoid")(new_mult)
model = Model(inputs=model_in, outputs=model_out)
model.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy'])
return model
Mit keras
> 2.0:
from keras.layers import multiply
output = multiply([dense_all, dense_att])
Sie müssen an der Vorderseite eine weitere offene schließende Klammer hinzufügen.
from keras.layers import Multiply
att_mull = Multiply()([dense_all, dense_att])
Unter der funktionalen API verwenden Sie einfach die multiply
-Funktion und beachten Sie den Kleinbuchstaben "m". Die Multiply-Klasse ist, wie Sie sehen, eine Ebene, die mit der sequenziellen API verwendet werden soll.
Weitere Informationen finden Sie unter https://keras.io/layers/merge/#multiply_1